科技失控与人类未来——评温德尔·瓦拉赫《科技失控——用科技思维重新看透未来》

当我们谈起科技之时，我们究竟应该如何思考？当科技走向失控以后，谁又能真正掌控未来？

人类文明的一部演化史，从某种意义上来说，也可以被认为是科学发展与技术进步的一部演进史。早至享誉世界的“八大奇迹”到古代中国的“四大发明”，晚至第一次产业革命、第二次技术革命到第三次信息革命，科学技术的发展与进步不仅提供了强大无比的生产动力，更是极其深刻地影响、改变甚至颠覆了人类社会的生存方式、社会结构和生活图景。

然而，自20世纪60年代以来特别是新世纪以来，随着互联技术、生物技术和人工智能的长足发展，我们早已熟悉、习惯甚至无法摆脱的科学文明的叙述方式和自我想象，又似乎重新将我们重新置于理性与感性，现实与未来，生存与毁灭的法庭之上。“智能机器将会造成越来越多的人失业？为什么有科学家说第一台超智能机器将是人类最后一项发明？我们谈论“转基因”时，为什么专家和大众不在一个频道上？我们是否应该将决策权交给机器？如何监控少数团体发起的可能危及所有人的研究？3D打印带来便利的同时潜在的社会风险是什么？如何制订机器人的道德准则？”

这些关于科技的思考绝非只是新兴科技名词的呈列与炫示，更重要地是就科技及其对于社会发展、道德伦理和价值意义等方面的挑战和僭越的立体的思考与辨识。在这个意义上，这本来自耶鲁大学生物伦理学跨学科中心的温德尔·瓦拉赫（Wendell Wallach）教授的这本《科技失控——用科技思维重新看透未来》，则主要探讨了作为技术的发明者和消费者如何应对飞速的技术发展所带来的道德模糊问题。

实际上，这一问题并不新鲜，甚至早在前现代社会科技文明还处于萌芽状态的肇始，人们对于如何认识和理解科学以及怎样应用和管控技术，就从未停止过自己的思考。正如史蒂夫·霍金所言，“科技是人类的威胁。” 一方面，科技是希望和生产力的源泉，其未来就是国家力量和财富机遇；另一方面，技术的不断发展可能逐渐成为一股脱离人类控制的强大力量，而科技的失控就是潜藏在未来和机遇中的陷阱和危机。

时至21世纪的今天，在这样一个技术潜力超乎寻常的年代，新技术在带给人类翻天覆地的变化的同时，也令人对其所展现的潜力与可能倍感敬畏。进而，这些由科学技术引发的社会发展范畴之外的关于道德伦理和价值意义的迷思，既无法由引发这些问题的新技术本身给出回答，也为身在其中的人类生活提出了新的挑战。

首先，这些挑战是在社会发展层面和人机共生演化的过程中对竞争格局的不断形塑。人与机器的相互关系长期处于此消彼长的动态平衡当中，究竟是人淘汰机器还是机器淘汰人，这或许本身即是一个难解的问题。科学技术的进步和机器生产的发展极大地提高了人类的生产效率能力和生活便利程度，但在另一方面，也正是随着生产率的提高和生产技术的迭代衍生了失业、灾难甚至是毁灭等重大威胁。当马文·明斯基（Marvin Minsky）所揭示的“人工智能时代”已然降临，当雷·库兹韦尔（Ray Kurzweil）所预言的“奇点”即将临近，随着人类物种突破基因法则的掣肘，人类将达到前所未有的智能水平、高度的物质文明并突破寿命的极限，并在此基础上使得人类的本质意义似乎也将得到扩充和挑战。

雷·库兹韦尔在其经典著作《灵魂机器的时代》（The Age of Spiritual Machines）一书中大胆预言：“科技正以史无前例的速度发展，计算机将能够赶超人类智能的各个方面。”随后，他在《奇点临近》（The Singularity Is Near）一书中所预言的“2045年，当计算机智能超越人类”的论述和他近日声称的“2030年后人类将逐渐永生”，都是关于人机演化过程中这种不断被形塑和颠覆的竞争格局的深刻思考。在他看来，人类与机器的联合，即嵌入我们大脑的知识和技巧将与我们创造的容量更大、速度更快、知识分享能力更强的智能相结合，而这种融合恰恰是奇点的本质和人类智能非生物化的开始，也是在社会发展层面和人机共生演化的过程中对竞争格局的不断形塑的展开和想象。

其次，这些挑战是来自技术的不同意向结构引发的道德伦理的内在张力与外部困境。正如本杰明·富兰克林所警告的那样，“那些愿意牺牲自由以换取安全的人将会双手空空。”然而，对于那些兼具有用、有争议及具有破坏性的技术而言，诸如基因工程、情绪和性格转换药物、纳米技术以及高级形式的人工智能等新技术的采用所带来的潜在危害和可能风险，可能正在重新设计人类的思想和身体，并在重新对人类进行定义的过程中引发层出不穷的伦理诘难。

众所周知，技术本身从来就不是中性的，不同的技术有着不同的意向结构——它不仅可以决定我们的行为逻辑，也可以构建我们对于世界的不同认知；甚至，对于技术的发展对不同的利益团体也有着不一样的倾向性。与此同时， 正如布莱恩·阿瑟在其《技术的本质》（The Nature of Technology）一书中谈到的那样，就技术的本质而言，它具有强烈的路径依赖性，并在其既已形成的技术路径上往往会诱使新的道德困境——当社会被制度路径锁死时，社会消亡；当企业被技术路径锁死时，企业淘汰；当人类被科技路径锁死时，人类灭绝。

大型强子对撞机（LHC）的启动运行之日是否就是地球末日？3D打印制造的枪会不会引发社会恐慌？生物工程、转基因生物和基因技术是否会对环境和公众健康造成新的挑战？设计婴儿、半机器人和技术智人是否是在侵犯人的思想和身体并使其已处于可以被改变和重塑的初级阶段？这些道德伦理的内在张力与外部困境，或许将在较长一段时间里日益剧烈地困扰着我们的科学实验和实践想象而不能自已。

同时，这些挑战还是关于哲学高度上关乎价值与存在之意义的各自言说与不同想象。自启蒙时代以来，伴随着科学技术的长足发展和科学主义的高歌猛进，经验主义科学的疾徐演进对哲学意义上人之所以为人的省察已经产生了僭越式的挑衅和狂妄式的戏谑。 如果回到启蒙思想以降科学理性的发展与歧路而言，以理性精神为核心的科学精神本身具有边界与局限，而在此之外对于更高的未知秩序的敬畏和遐想所笼罩着的“神秘主义”色彩则绝非“迷信”。前者是对更高的未知秩序的敬畏和遐想的“有知的无知”，而后者则是对文化传统和宇宙秩序未经深思的“狂妄的理性”。

然而，当“对话的、与大众分享的”逻各斯被遮蔽为僵化、说教的逻辑，当科学精神沦为科学主义，理性据以评价一切其他事物的合理性的基础则被一知半解的“科学知识”所取代，扩展为“人生观”甚至是“信仰”的科学方法却因“物我两执”的极端立场而成为科学自身的终结。在此当中，科学过程受到科技发展之路径依赖的限锁而终将被淘汰或走向灭亡，而身在其中的人类本身也必须认真严肃地展开对于自身的价值与存在之意义判准的重新反思。

在这个意义上，区别于由生存竞争导致的功利性的工具主义动因，真正的科学应当且只能是由纯粹的好奇心而导致的不带功利的观察。因而，科学应当向着思的澄明（Lichtung）与去蔽（alethea）的发生学回归；也正是因此，作为“爱智”的哲学也远未终结，否则“工具理性”日益淹没“价值理性”的“科学法庭”就会抹杀每一个不具备功利目的具体存在者以存在的权利。

最后，正如温德尔·瓦拉赫在本书末章《我们的未来》中所感叹和展望的那样，我们每个人都是一个航行家，今天的决策将对未来产生某种形式的影响；我们所更多关注的是这段旅程本身，即人类作为一个整体，是否有足够的智慧应对技术创新带来的希望和危险并成功地航向未来。反过来讲，我们实际上将要创造的未来也在很大程度上取决于我们今天所采取的行动包含了怎样的价值观——关于科技失控的可能和人类未来的想象，而并不只是关于技术可能性的投机性想法那么简单。