2009年2月12日晚上,美国纽约州布法罗机场,美国大陆连线航空公司Q400航班在下降时发生严重事故,机上49人全部遇难并造成地面一人丧生。经调查,这起空难是近年来频繁发生的“新型坠机事故”的典型案例,体现了航空领域日益自动化的负面效应。当机载计算机系统出现预期外的故障,或者飞行中出现其他意料之外的问题,飞行员就必须立刻采用手动飞行。飞行员在突如其来的状况中应付不当,最终造成了灾难性的后果。
面对这种情况,美国科普作家、《哈佛商业评论》前执行总编尼古拉斯•卡尔认为,自动化系统的设计方式和人们使用系统时的工作方式之间存在着微妙而紧密的联系。技术虽然减轻了飞行员认知上的负担,基本确保了更高的安全系数,但同时也意味着飞行员的技能受到侵蚀,感知能力变得迟钝,反应速度下降。卡尔打了个比方说,玻璃座舱成了“玻璃笼子”。
《玻璃笼子:自动化时代和我们的未来》属于尼古拉斯•卡尔声名远播、雄踞各大畅销书榜的互联网科技三部曲之一。其他两部分别是《大转化:重连世界,从爱迪生到Google》和《浅薄:你是互联网的奴隶还是主宰者》。卡尔长期以来一直关注自动化对人类思考能力的消极影响。在2013年他为《大西洋月刊》写的一篇名为“一切都会消失:把人类的知识放入机器手中的风险”的文章中,卡尔批评了“‘以技术为中心的自动化’的崛起,成为电脑工程师和程序员主要的设计原则”,他认为“这个原则使技术的能力凌驾于人类的利益”。
通过本书大量搜集的例证,卡尔证明了“玻璃笼子”并非只是航空业的特例。医院开出的电子病历,律师事务所的文件资料,建筑设计图纸,甚至一首歌的编曲,等等,都可以通过自动化完成,但结果,电子病历返查率提升,律师文件忽略了细节,建筑大楼千面一律,歌曲编排做不到以情动人。卡尔担心,随着自动化的推进,这种情况会大量发生在工厂、办公室和其他领域。科学实验证明,卡尔的担心并非空穴来风。
现代解剖学、生理学和神经科学等研究表明,人的思考方式包括思维系统I和思维系统R。前者是无意识,后者受意识控制。两个系统时而共同协作,时而互相冲突,时而合二为一。我们在行为上就表现为习惯成自然,遵循本能行事。布法罗空难的原因就在于,驾驶员在危急情况中缺少了“态势感知”能力,自动化让他的职业本能退化,无法做出及时正确的反应。所以,卡尔大声疾呼:“小心——如果技术优先”。卡尔的观点被许多经济学家认可。比如,麻省理工学院数字商务中心主任埃里克•布莱恩约弗森在他的著作《第二次机器革命》中就呼吁,“企业家、工程师和经济学家要迎接一个新的巨大的挑战”,希望他们“创造出劳动力的补充物而不是劳动力的替代品”,还有“用制造者和创造者的思维代替节省劳动力和自动化的思维”。
卡尔的担忧,实质上是对“人-机”关系颠倒的忧虑。机器诞生的目的,是为了把人类从劳役中解放出来,获得更多的自由。但是现实情况的发展逐渐脱离了当初天真的预想。就像人工智能专家马丁•福特在《机器人时代》中所说的:“在我们的整个经济和社会中,机器正在发生着巨大的转变。它们的进化作为工具来说已经超出了历史的角色。在很多情况下,它们已经成为自主的主人。”卡尔认为这很危险并且希望能阻止它。这也是这个时代我们共同关心的重要命题。无数的影视、文学和哲学著作,都在努力传达这个理念。其中,汉娜•阿伦特在发表于半个世纪之前的《人的境况》一书中,曾经说过,自动化给人类带来的是“一个没有劳动的劳动者社会,也就是说,人们无事可做。毫无疑问,没有什么比这更糟糕了”。
19世纪初,在最早发生工业革命的英国爆发了大规模的“捣毁机器运动”,人-机关系的紧张状态达到了巅峰,但是,机械化的历史浪潮势不可挡,不能否认它在这两百年里带给人类生活的巨大改变。这种改变在很多方面都可以称得上美好。无人驾驶汽车、3D打印技术、智能手机、自动翻译系统等,这些曾经只存在于科幻小说里的想象,如今都已经或者正在成为现实。从我们中国发展的实际状况来讲,目前在科技创新方面差距还很大,2015年初,李克强总理强调,要以工业4.0开启中德合作新时代,工信部和中国工程院把中国版的工业4.0的核心目标定义为智能制造,新一轮的科技革命必将引发新一轮的产业革命,这场时代性的革命也必将以技术的方式渗透进我们每个人的生活。
计算机、机器人和其他自动化工具,带给经济发展、人类生活的创新,就其广度、深度和速度,都是史无前例的,我们不能无视科技的力量。科技产品越来越成为人类生活不可割舍的部分。它们填补每天的空白时段,用便捷的服务实现低成本的满足感,用轻松的娱乐解除日常的乏味。我们需要注意的,是防止被科技“物化”。科技让生活的时空被压缩,它承载了人类太多的欲望,它让人类对周遭的现实钝化麻木而沉浸在虚空的幻想世界。我们真正的需要是什么呢?我们珍视的价值是什么呢?科技对于我们最大的意义,应当是:人们可以从发明和发现、从创造和创建以及从爱、友好和社群中获得更多的满足感。我们需要做到不为外物所役,摆正人-机的关系,才能获得如本书作者所说的“破笼而出”的力量。这是一种回归,也是一种前进。
很显然,汉娜•阿伦特、埃里克•布莱恩约弗森、马丁•福特、尼古拉斯•卡尔,这些具有远见卓识的人们,并非真正意义上去反对自动化。套用汉娜•阿伦特最著名的政治理念——平庸之恶,他们所要抵制的,正是科技的“平庸之恶”。如果对于机器显而易见的“恶行”不加限制,那么,“自动化乌托邦”将要带给人类的,或许是比阿伦特所表达的更糟糕的未来。从这个意义上,抵制科技的“平庸之恶”,毋宁说是为了抵制资本利益追逐之中,人性的平庸之恶。
如需转载请先联系本人,见豆瓣主页联系方式。
抵制科技的“平庸之恶”
《玻璃笼子》热门书评
-
“我们丧失了存在的力量"
7有用 0无用 魏小河 2016-03-30
谷歌的机器人AlphaGo打败了韩国围棋高手李世石。事情不是第一次发生了。1997年,IBM的电脑深蓝打败了世界国际象棋冠军加里·卡斯帕罗夫。人工智能越来越牛逼,而人又往何处去?虽然现实世界里,不太可能立即发生科幻电影中的人机大战,但是,这个事件确实拨动了我们的心弦。我在网上搜索关于这则新闻的报道,...
-
【镜花】突然的自我
6有用 0无用 伊卡洛斯 2015-11-25
拥有双重身份,就是不诚实的表现。那种试图在同事与熟人面前呈现不同形象的日子马上就要到头了。——马克·扎克伯格我们很容易去认为沉迷社交媒体的人都是他们自身的问题:自控力差、使用能力不足、生活中缺少存在……但作者延续他在之前的书《浅薄》中的主张。在他看来,自动化也好,媒体也好,计算机也好,互联网也好,都...
-
抵制科技的“平庸之恶”
4有用 2无用 浙江赵青新 2015-12-19
2009年2月12日晚上,美国纽约州布法罗机场,美国大陆连线航空公司Q400航班在下降时发生严重事故,机上49人全部遇难并造成地面一人丧生。经调查,这起空难是近年来频繁发生的“新型坠机事故”的典型案例,体现了航空领域日益自动化的负面效应。当机载计算机系...
-
作者本人写的书评及翻译《Automation Makes Us Dumb》《自动化让我们变蠢》
4有用 0无用 子非鱼 2014-12-02
作者本人的原文链接如下:http://online.wsj.com/articles/automation-makes-us-dumb-1416589342(是的,需要翻墙,不过英文原文见下方)Automation Makes Us DumbHuman intelligence is witheri...
-
对高度智能化世界的提问
4有用 0无用 柳言鹰语 2016-03-23
对高度智能化世界的提问——读尼古拉斯·卡尔《玻璃笼子——自动化和我们的未来》我们的双手有望离开汽车方向盘,因为无人汽车已经出现;我们不用再为找不到路犯愁,辨别方向的事儿GPS就能办到;遇到难题,搜索引擎能帮你解决可以不动用大脑;只要有一台电脑,坐在家里就能创业、就业……互联网时代,人类的运动简化为启...
书名: 玻璃笼子
作者: [美] 尼古拉斯·卡尔
出版社: 中信出版社
副标题: 计算机如何改变了我们
译者: 杨柳
出版年: 2015-11
定价: 49.00元
装帧: 平装
ISBN: 9787508655628