对高度智能化世界的提问
——读尼古拉斯·卡尔《玻璃笼子——自动化和我们的未来》
我们的双手有望离开汽车方向盘，因为无人汽车已经出现；我们不用再为找不到路犯愁，辨别方向的事儿GPS就能办到；遇到难题，搜索引擎能帮你解决可以不动用大脑；只要有一台电脑，坐在家里就能创业、就业……互联网时代，人类的运动简化为启动应用程序，向主机求得答案，听从算法的智慧。在这个智能设备无所不在的年代，自动化让生活更为便捷，同时也偷走了我们的部分生活，限制了我们的视野，时时暴露在监控之下，隐私被剥夺，不少人甚至退化到不会思考，对人类的未来已然懵懂。正如“这个时代最清醒的思考者之一”尼古拉斯·卡尔在其新著《玻璃笼子——自动化和我们的未来》中所言的，“各种各样的智能设备和计算机包围着我们，使我们仿佛生活在玻璃笼子里一样，我们的体验变得不再那么丰富，而我们的智慧正在受到侵蚀。”
卡尔延续他在之前的书《浅薄》中的主张。在他看来，自动化也好，媒体也好，计算机也好，互联网也好，都是工具，但是这些工具从不是毫无影响的中立之物，它们反映着其诞生初期的设计者的意愿、使用者的关注以及整个社会的利益，并在成熟之后积累了许多惯性，继续沿着已有路径发展，从而影响人们工作和思考的方式——对于此，我们即便是个人，也不可能摆脱。
“人是万物的尺度。”古希腊哲学家普罗泰戈拉在《论真理》中说，人类向来自诩为万物之灵，认为自己是世界的主宰。但是，这种自我意识正在消解。在自动化时代，“很多人类从事的工作已经被各种人工智能设备所复制和替代。比如航空员在驾驶的时候更多依靠科技，这让我们感到今天的飞机不是驾驶员在操纵，而是计算机软件在控制”。卡尔认为，智能机器不但会取代人类的一些行为，还可能毁灭掉人类，乃至统治地球或操控整个宇宙，而“公众没有完全认识到这些风险的严重性”。2003年，里斯勋爵出版的《我们最后的世纪》一书里警告说：“人类的破坏性及表现出来的各种自残、自毁行为，最终可能导致2100年人类彻底灭绝。”尽管里斯勋爵的话有点儿危言耸听，但在卡尔看来，“超级智能机器”，或“人工综合智能”，确实可能危及人类存亡。一如剑桥大学哲学系著名教授休·普雷斯所言：“超级人工智能有可能是‘潘多拉的盒子’，一旦盒盖打开了，灾难也许会飞洒人世。我们对此务必重视，错过这个关键时刻，就可能陷入灭顶之灾。”
尽管“他们（人类）把我们造得太聪明，太完美，而到了最后，剩下的只会是我们”，只是电影《2001太空漫游》里的一句台词。但是，正如尼古拉斯·卡尔在《玻璃笼子》里所言，“在我们的工作和生活中，我们都在某种玻璃的框子里边，也就是说大家都离不开某种屏幕，每个人在讲着话都会不断地看手机，被屏幕围绕和控制，在未来几年里，我们看到好像不借助某一种计算机或者屏幕的话，似乎就不太能做一些具体的事情，我说这种无形的影响我把它叫做‘玻璃笼子’。”而且，种种迹象证实，尼古拉斯·卡尔对人类过度的依赖智能机器的担忧正从忧虑中成为现实。如果我们依然继续地过度依赖智能设备，一旦人类所独有的本能（或机能）丧失，人的个体及整个社会的发展演化都必将面临着严峻的考验。
“对于飞行员来说，在这种玻璃笼子里切断了应有的知觉、感知和敏锐的反馈；在我们的生活里会切断人和人之间的互动和世界之间的互动，它会使我们的感知、思考和思想受到重要的封锁。”当人类仍沉浸在技术带来的便利和高效的时候，尼古拉斯·卡尔看到的却是技术背后隐藏的“手术刀”正改变着人的大脑，从而影响人的认知和行为。当然，卡尔的《玻璃笼子》并不是简单排斥自动化、计算机或者其他的智能机器给生活带来的便利和好处。他所强调的是，一切技术都不能或不该“绑架”人类，人类也应抗拒被自动化、计算机及其他先进的科技束缚住手脚和思维。“我想今天人类面临这样一个重要的抉择，就是在计算机或者自动化越来越普及越来越被大力推进的时刻，在人和机器之间，到底谁控制谁呢？我的观点是要让技术为人类服务。”正如尼古拉斯·卡尔所言，人类自身的很多高级能力既是不可替代的，也不应该由智能机器来完成。
“人类发展的过程，更多是对从事的工作中所掌握的技能来实现的。如果软件本身的设计不够好的话，那它会把人类所达到的目标引向歧途。随着技能的提高，不断去接受更新的挑战，然后得到新的结果。大量自动化的过度依赖，也会影响人类自身的发展和学习能力。”尼古拉斯·卡尔思考问题的角度独特，观点犀利甚至略为偏激。事实上，对每一个人或整个社会来说，社会的发展、人类的进步确实应该靠我们自己来滋养，概念思维的能力、创意思维的能力以及批判性思维的能力，都要通过人类自身的体验和操作来完成（或实现）。所以，《玻璃笼子》，对还在一边走路一边刷微博、聊微信、查收邮件、看视频、玩游戏的“低头族”而言，或是一种提醒，即便没有醍醐灌顶的功效，至少也会引发思考。
在互联网时代，卡尔屡屡提出与众不同的观点。《玻璃笼子》旨在阐明一个特立独行的评判：自动化和智能化代替人脑的部分功能，会否害了人类？不能不说，卡尔的提问是有足够价值的。
刊载于2016年1月8日《经济参考报》第八版
http://dz.jjckb.cn/www/pages/webpage2009/html/2016-01/08/content_14105.htm
-----------------------------------------------------------------------------------------------------------------------------
原创稿件，谢绝任何网站、新闻客户端、微信公号等以任何形式转载，若转载或商用请致函致电商洽索取原创及润色后的完整版(qq：472176745)。但是，欢迎转发和分享至您的朋友圈。
新浪微博，欢迎互粉：http://weibo.com/1391089223/
《玻璃笼子》热门书评
-
“我们丧失了存在的力量"
7有用 0无用 魏小河 2016-03-30
谷歌的机器人AlphaGo打败了韩国围棋高手李世石。事情不是第一次发生了。1997年，IBM的电脑深蓝打败了世界国际象棋冠军加里·卡斯帕罗夫。人工智能越来越牛逼，而人又往何处去？虽然现实世界里，不太可能立即发生科幻电影中的人机大战，但是，这个事件确实拨动了我们的心弦。我在网上搜索关于这则新闻的报道，...
-
【镜花】突然的自我
6有用 0无用 伊卡洛斯 2015-11-25
拥有双重身份，就是不诚实的表现。那种试图在同事与熟人面前呈现不同形象的日子马上就要到头了。——马克·扎克伯格我们很容易去认为沉迷社交媒体的人都是他们自身的问题：自控力差、使用能力不足、生活中缺少存在……但作者延续他在之前的书《浅薄》中的主张。在他看来，自动化也好，媒体也好，计算机也好，互联网也好，都...
-
抵制科技的“平庸之恶”
4有用 2无用 浙江赵青新 2015-12-19
2009年2月12日晚上，美国纽约州布法罗机场，美国大陆连线航空公司Q400航班在下降时发生严重事故，机上49人全部遇难并造成地面一人丧生。经调查，这起空难是近年来频繁发生的“新型坠机事故”的典型案例，体现了航空领域日益自动化的负面效应。当机载计算机系...
-
作者本人写的书评及翻译《Automation Makes Us Dumb》《自动化让我们变蠢》
4有用 0无用 子非鱼 2014-12-02
作者本人的原文链接如下：http://online.wsj.com/articles/automation-makes-us-dumb-1416589342（是的，需要翻墙，不过英文原文见下方）Automation Makes Us DumbHuman intelligence is witheri...
-
对高度智能化世界的提问
4有用 0无用 柳言鹰语 2016-03-23
对高度智能化世界的提问——读尼古拉斯·卡尔《玻璃笼子——自动化和我们的未来》我们的双手有望离开汽车方向盘，因为无人汽车已经出现；我们不用再为找不到路犯愁，辨别方向的事儿GPS就能办到；遇到难题，搜索引擎能帮你解决可以不动用大脑；只要有一台电脑，坐在家里就能创业、就业……互联网时代，人类的运动简化为启...
