正如书中所言,现在,我们要完成某件事,多半就是坐在电脑前,或者掏出智能手机,甚至用一些更为灵巧的智能设备,比如智能手表帮助完成。我们的双手也许会在未来离开汽车方向盘,因为无人驾驶汽车已经实验成功;我们不用再为找不到路犯愁,辨别方向对于GPS技术早就不是难事;而我们的飞行员就快要退化成计算机操作员了,驾驶舱里的五个人已经减少到两个人;自然地,遇到不明白的问题,人类的运动简化为启动应用程序,向主机求得答案,听从算法的智慧。。。。。
的确,自动化让生活更为便捷,让我们事半功倍,少了琐事的烦恼。但在享受科技给我们带来的便捷的同时,作者尼古拉斯∙卡尔提醒我们,不能忽视自动化和高科技给人类带来的更深层次的潜在影响。
正如我们所看到的,通过计算机编程可以执行或支持复杂的活动。在如今的自动化系统里,计算机经常承担起脑力劳动的任务——观察、感知、分析和判断,甚至做决策。一直以来,这些都被认为是人才能干的活。操作计算机的人沦为高技术职员,负责输入数据,监控输出,观察并发现故障。软件限制而不是开拓了人类思维和行为的新疆域。虽然我们用的才智精妙绝伦,但换来的技术却是常规的趋同的。
自动化并不是简单地取代了人类活动,而是以出乎设计者意料或预期之外的方式改变了人类活动。自动化重塑了工作和工人。对自动化的过度依赖和偏好似乎都是源于注意力的局限性。对自动化的过度依赖表明,当我们没有同周围事物进行常规性互动时,注意力和意识很容易就会分散。人类思维的关注点具有选择性,我们在评估和衡量信息时容易产生偏好情绪,并且很容易被错误信息或是看上去有用的提示所影响。随着自动化系统的质量和可靠性不断提升,人们对自动化的过度依赖和偏好会变得越来越严重。实验表明,当某个系统频繁出现错误时,我们会保持高度警惕,时刻注意周围环境的变化,仔细监控来自不同渠道的信息。当系统的可靠性提高以后,故障或错误只是偶尔出现,我们就会偷懒。自动化把我们和负面反馈隔离开来,使我们难以保持警惕的状态,也很难参与操作,这样一来,我们就更容易忽视情况的变化。自动化导致我们对差错置之不理,我们从执行者变为观察者。我们不再控制操纵杆,而是盯着屏幕。这种角色的转变可能会使我们的生活变得轻松,但也会阻碍我们学习和锻炼技能。
大多数人都知道,熟练掌握某件事的唯一方式就是亲身实践。从计算机屏幕或是书籍上快速搜集信息很容易,但是真正的知识,特别是那些埋藏在记忆深处并通过技能体现出来的知识,是很难得习得的。真正的知识需要学习的人付出精力,同困难的任务进行持久的斗争。
谷歌承认,当他们提高搜索引擎的响应性,使搜索引擎更周到更具预见性时,也意识到了这可能有愚化大众的影响。我们可能会认为使用搜索引擎越频繁,所输入的搜索词条会越准确,但实际上,正好相反,机器越精准,我们的问题就越愚蠢。搜索引擎的便利性会弱化我们对复杂问题的查询能力,实际上远不止如此。因为搜索引擎的存在,我们觉得不需要将信息进行编码并内化,需要的时候去搜索就可以了。千百年来,从卷帙和书籍到缩微胶片和磁带到云存储,人们用存储技术填补了生物性记忆的不足。但外部存储与生物性记忆相差甚远。知识不仅仅要通过查找来获得,还需要将事实和经历编码,转化为个人记忆。要真正了解一个事物,必须让它进入你的神经元回路,不断地从记忆中读取这些信息,不断使用。谷歌等软件公司致力于让我们的生活变得更简单。只是这样一来,我们会自然地更依赖软件而不是自己的智慧,不再强迫自己去生成思维。于是,我们学到的和了解到的知识就会减少,能力就会下降,适应新环境的能力就会越差。未来可能出现的格局是“聪明的工具和迟钝的大脑”。
在“跳舞的老鼠”实验中,我们发现,老鼠面对真正挑战时,特别弱或特别强的刺激都会阻碍它的学习能力。我们都知道信息过量会带来的负面影响,同样的信息不足也会降低人们的能力。并且在自动化过程中,负载不足可能比过载更值得关注,因为负载不足更难被发现。信息负载不足倦怠是新一代汽车自动化的特别危险。软件替代人类实现转向和刹车等操作,驾驶员坐在方向盘后面无所事事,会忽视周围发生的一切。本来可以避免的一些常规事故也许会频繁发生,未来出现草脚司机的可能性会越来越高。
现在医院都在推行电子病历,包括美国、澳大利亚、英国和中国。但从美国的统计数据来看,除了年均总开支上升和相关的信息技术公司大赚之外,医生和病人都没有从中获得好处。电子病历系统可以记录病情、分享就诊记录,大多数系统还融合了决策支持软件,在会诊和检查期间,计算机屏幕会显示检查清单和提示,为医生提供指导和建议。但医生给病人开出的账单却越来越贵,一方面是因为一些微小的检查都会按步骤额外收费,另一方面是因为医生会不知不觉间安排了过度检查。这与我们当初的预期完全相反,自动化再次改变了人类的行为方式。除此之外,电子病历中会有许多雷同的描述,这是剪切+粘贴的后果。医生越来越货币于文本的重复使用,而不同于口述+手写时要好好考虑将要表达的内容。缺少对患者深入的专属性的诊断,失去了病历的精确性和原创性,也降低了其作为学习工具的价值。年轻的医生们因此失去了获得隐性知识的机会。屏幕横亘在医生和病人之间,拉开了医生和患者的距离,要培养直觉判断及其行动力的难度就增加了。医生的技能则注定要一步步地退化。
从石器时代的石刀石斧开始,工具一直是人类双手的仆人,但是机器就不同了,机器要求工人为它服务,工人需要调整身体的自然规律以适应机器的机械运动。技术推动了工具的进步,从提高工作能力的简单工具变成了限制人类的复杂机器。自动化首先将操作员从手动工作中解放出来,接下来,就是解放操作员的大脑了,因为高度复杂的一定需要具有专业技术的操作员,一切都可以内置在机器里。
现在出门,做的第一件事就是GPS,以前是室外,现在就连室内都可以GPS了。我们将找路这件苦差事交给了GPS这个“外包大脑”。但研究表明,GPS使用者存在无意视盲现象,影响他们对周围环境形成视觉记忆的能力,使我们不能在穿梭的过程中感受这个世界,所有的感官体验都告枯竭,为了便利我们交出了“自主权”。
我们越依赖自动化,越依赖计算机强大的生产力,我们需要付出的代价就越大。我们敲击键盘的时间越多,思考的时间越少。谷歌工程总监曾经设想不用实际搜索就可以得到大部分问题的答案,因为谷歌知道这就是用户想得到的答案。当搜索完全自动化之时,人类的主观意志就将清理出局。有些社交网络也有着相同的期许,通过“点赞”等一些可以表达情绪的按钮,将耗时耗力的人类关系自动化,实现了复杂人际关系的流水化。就像事事操心的家长一般,永远不会让孩子独立完成某件事情,谷歌、Facebook、微信等最终都贬低甚至擦除了人类的某些物质,如独创性、好奇心、独立性和勇气。但实际上人和人之间最有意义的关系并不能通过市场上的交易来实现,也不是程式化的数据交换。
自动化不仅深度介入人类的社交,可穿戴式设备的出现让软件公司能更多地融入我们的生活,甚至可以通过云计算基础设施使日常琐事也实现自动化。有了这些设备,我们可以轻松获取路线信息,算法还可以生成建议,告诉使用者下一顿饭去哪儿吃或晚上出去穿什么。这些算法和建议背后是软件开发者的意志、逻辑与判断。我们冒险用他人的意念替换自己的想法,却没有意识到其实这种交换已经发生了。我们越是让自己向技术靠拢,冒的风险就越大。很多技术已经普遍到让我们视而不见了,虽然运作方式和背后的假设与利益都非常明显,或者至少是理性人可以察觉到的。技术的种种意图已经渗透到人类自身的愿望和行为中了,我们再也无法分辨软件是在帮助我们还是在控制我们。
自动化在分担我们工作的同时,也弱化了我们的才能,偷走了我们的生活,限制了我们的视野,甚至将我们暴露于监控之下,操控我们。我们都在使用智能设备,为一个又一个技术的进步而欢呼。当计算机和一切智能设备变成我们生活中的伴侣时,我们应该更加留心它如何改变了我们的行为和身份。
现在也有些建筑师和摄影师拒绝使用电脑,只在工作中使用最佳工具,能鼓励并帮助他们做出更好的更令人满意的作品的工具。因为他们逐渐明白,最新、最自动化、最方便的工具并不总是最好的选择。他们决定在工作的某些阶段放弃技术也是一种反叛,一如当年发生在英国的破坏机器的行为。他们明白,对技术的选择正是对工作方式和生活方式的选择,他们掌握了选择的控制权,而不是拱手让于他人或者让步于先进的势头。他们只是退后一步,批判性地看待技术。
有研究表明,相比休闲时段,在工作期间人们更高兴,因自己的工作而感到充实。在闲暇的时间里,人们更容易产生无聊和焦虑感。然而,人们并不喜欢工作。心理学家将这称为“错误需求”,即我们容易对本不喜欢的事物产生欲望,容易对我们并不需要的东西产生好感。工作迫使我们参加一些能带给我们满足感的活动。工作任务有明确的目标,会刺激我们运用并发挥自身的才智。我们逃避繁重的工作,却很少能培养富有挑战性的爱好。相反,我们看电视、逛街、刷微信。但这让我们越发懒惰,最终感到无聊、焦躁。摆脱了外在的关注点,我们的注意力便向内集中,最终把自己锁在艾默生所说的“自我意识”的牢笼里。契克森米哈说:“即使是卑微的工作,也比自由的时间容易过。”因为工作拥有内在的目标和挑战,会鼓励我们投入工作,集中精力,沉浸其中。不过,我们狡猾的大脑并不想让我们相信这一点。如果有机会,我们还是渴望摆脱繁重的工作,让自己无所事事。
《玻璃笼子》无疑给我们这个时代注入了一剂清醒剂。每次与事实碰撞,都会加深我们对世界的认识,并更好地成为它的一部分。我们期待辛勤劳动尽早结束,但是,正是工作本身造就了我们。自动化将结果和过程分离,使我们更容易得到我们想要的,但却让我们远离了认知的过程。将工具视为经验,视为自己的一部分,而不只是生产的手段,我们才可能在技术将世界完整地呈现在我们面前时,享受其带来的自由,擦亮我们的灵魂。
作者独特的思考问题的角度,犀利甚至略为观点再加上丰富的最前沿的科技案例会让人读起来酣畅淋漓,有醍醐灌顶之感。
智能设备让我们生活在“玻璃笼子”里?
《玻璃笼子》热门书评
-
“我们丧失了存在的力量"
7有用 0无用 魏小河 2016-03-30
谷歌的机器人AlphaGo打败了韩国围棋高手李世石。事情不是第一次发生了。1997年,IBM的电脑深蓝打败了世界国际象棋冠军加里·卡斯帕罗夫。人工智能越来越牛逼,而人又往何处去?虽然现实世界里,不太可能立即发生科幻电影中的人机大战,但是,这个事件确实拨动了我们的心弦。我在网上搜索关于这则新闻的报道,...
-
【镜花】突然的自我
6有用 0无用 伊卡洛斯 2015-11-25
拥有双重身份,就是不诚实的表现。那种试图在同事与熟人面前呈现不同形象的日子马上就要到头了。——马克·扎克伯格我们很容易去认为沉迷社交媒体的人都是他们自身的问题:自控力差、使用能力不足、生活中缺少存在……但作者延续他在之前的书《浅薄》中的主张。在他看来,自动化也好,媒体也好,计算机也好,互联网也好,都...
-
抵制科技的“平庸之恶”
4有用 2无用 浙江赵青新 2015-12-19
2009年2月12日晚上,美国纽约州布法罗机场,美国大陆连线航空公司Q400航班在下降时发生严重事故,机上49人全部遇难并造成地面一人丧生。经调查,这起空难是近年来频繁发生的“新型坠机事故”的典型案例,体现了航空领域日益自动化的负面效应。当机载计算机系...
-
作者本人写的书评及翻译《Automation Makes Us Dumb》《自动化让我们变蠢》
4有用 0无用 子非鱼 2014-12-02
作者本人的原文链接如下:http://online.wsj.com/articles/automation-makes-us-dumb-1416589342(是的,需要翻墙,不过英文原文见下方)Automation Makes Us DumbHuman intelligence is witheri...
-
对高度智能化世界的提问
4有用 0无用 柳言鹰语 2016-03-23
对高度智能化世界的提问——读尼古拉斯·卡尔《玻璃笼子——自动化和我们的未来》我们的双手有望离开汽车方向盘,因为无人汽车已经出现;我们不用再为找不到路犯愁,辨别方向的事儿GPS就能办到;遇到难题,搜索引擎能帮你解决可以不动用大脑;只要有一台电脑,坐在家里就能创业、就业……互联网时代,人类的运动简化为启...
书名: 玻璃笼子
作者: [美] 尼古拉斯·卡尔
出版社: 中信出版社
副标题: 计算机如何改变了我们
译者: 杨柳
出版年: 2015-11
定价: 49.00元
装帧: 平装
ISBN: 9787508655628