人类命运面临的最后挑战
——读《超级智能:路线图、危险性与应对策略》
彭忠富
在科技日新月异的现代,各国研发团队无不卯足全力,竞相开发新一代机器人产品。如果机器人比人类聪明,如果我们制造了机器人却不能控制它们的思想和行为,如果机器人像人类一样实现了自我进化,那么我们将不再是这个星球的主宰。这看起来似乎有些杞人忧天,但是万一发生了呢,我们该怎么办?超级智能将是信息时代人类命运面临的最后挑战,如果人类不能未雨绸缪,科学应对,必将悔之晚矣。
英国哲学家和超人类主义学家尼克•波斯特罗姆认为“人类生活的最高境界是美好的。我们没有理由不相信,在这片更大的空间中会存在更多极其宝贵的生存方式。它们可能大大超越我们智慧的极限,我们甚至做梦也无法想象得到。”超越人类智慧极限的事物,极有可能就是机器人,我们能将机器人始终控制住吗?这可能是个问题。尼克在其新著《超级智能:路线图、危险性与应对策略》一书中指出,我们需要十分小心人工智能,它可能比核武器更危险,稍有不慎就会将人类毁灭。
人类之所以能控制地球,是因为我们的大脑比即使最聪明动物的大脑都要复杂得多。人类大脑拥有一些其他动物大脑没有的功能,正是这些独特的功能使我们的种族得以拥有主导地位。正如现在大猩猩的命运更多的掌握在人类手中而不是自己手中一样,人类未来的命运也会取决于机器超级智能的行为。事实上,人好比孩子,超级智能好比孩子玩的炸弹。炸弹的威力和我们行为的成熟度是如此的不匹配,而最可怕的是我们不知道炸弹什么时候会爆炸。超级智能是一个我们现在还没有准备好应对的挑战,而且很长时间之内都不会准备好。一旦人类失去对机器人的控制权,超级智能就会像炸弹那样爆炸。因此超级智能对我们人类将是一个巨大的威胁。
这本书包括如下部分:人工智能:昨日成就与今日现状;通往超级智能之路;超级智能的形式;智能大爆发的动力学;决定性战略优势;超级认知能力;超级智能的意愿;结局注定是厄运吗?控制问题、战略图景和关键时刻等。作者首先讨论了超级智能的形式和能量,以及具有决定性优势的超级智能体有哪些战略选择。之后讨论的重点转向控制问题,并提出为了获得可生存并且有利的结果,如何塑造初始条件的问题。最后指出为了增加成功率,现在可以做些什么。《获取价值观》一章以及以后的《确定选择你》各章是本书的精华,具有超越本书的普世阅读价值。
作者认为,原则上,我们能够制造一种保护人类价值的超级智能。当然,我们也有足够的理由这么做。实际上,控制问题,也就是如何控制超级智能,似乎非常困难,而且我们似乎也只有一次机会。一旦不友好的超级智能出现,它将会阻止我们将其替换或者更改其偏好设置,那时我们的命运将被锁定了。这本书会带你开启一段引人入胜的旅程,将你带到对人类状况和智慧生命未来思索的最前沿,不愧是对我们时代根本任务的一次重新定义。这本书如果得到了应有的重视,那么它会成为1962年《寂静的春天》之后,甚至有史以来最重要的警钟。
超级智能好比人类手中的炸弹,不知啥时就会给我们带来厄运。当然这是一种设想,但是我们切不可因噎废食停止研发机器人,毕竟魔高一尺道高一丈,相信人类最终还是能驯服超级智能这块炸弹,让它为我们所用。
人类命运面临的最后挑战
《超级智能》热门书评
-
超级智能 驱动人类前行
10有用 0无用 柳言鹰语 2015-06-05
超级智能 驱动人类前行从《变形金刚》中的汽车机器人到《星际穿越》里的智能机器人,虚拟世界中的机器人功能令人惊叹。现实中,在工业和服务两大领域,智能机器人正颠覆着以往的发展模式。在影响未来的颠覆性技术中,超级机器人会取代人类吗?我们又该怎样对待超级智能的机器人呢?这似乎是个永恒的话题。全球著名思想家、...
-
作者Nick Bostrom自述与简历
5有用 0无用 Cecile 2015-06-25
自述我出生在瑞典的赫尔辛堡,在海边长大。学校让我感到厌烦。在十五六岁的时候,我有了一次认识上的觉醒:我感觉我浪费了生命中的第一个十五年,于是决心专注于做重要的事。因为我不知道重要的事是什么,而且我不知道如何发现哪些事是重要的,我决定开始完善自己,以便找到答案。因此,我开始了认识方面的自我发展事业,在...
-
很有深度,值得多读几遍的好书~
1有用 0无用 shadow傻逗 2016-06-26
总体来说,这是一本比较难懂的书。因为作者虽然是思想家,但是其背景包括了物理、计算机科学、数理逻辑以及哲学。所以其实他是一位非常理性,并且很了解科学的人。在序言中,他说道自己提出的观点可能是不恰当的,有些非常重要的观点也可能没提到,从而削弱了其某些或者所有观点的有效性。这样的态度我觉得非常的严谨,不愧...
-
终极进化
0有用 2无用 嗜睡者 2016-02-13
大刘的中国2185和彩虹之门的地球纪元均对人工智能发展的路径有详细大胆的预测。事实证明,多数人类对人工智能各种怀疑才是人工智能发展的障碍,就像一只甲虫想控制人类那么难。与其这样,不如将人工智能和自身结合,甚至全面放开人工智能的发展。不过这样的说法也是有些不负责,对生命不负责,对存在几百万年的人类文明...
-
人类命运面临的最后挑战
0有用 1无用 书评人彭忠富 2015-08-04
人类命运面临的最后挑战——读《超级智能:路线图、危险性与应对策略》彭忠富在科技日新月异的现代,各国研发团队无不卯足全力,竞相开发新一代机器人产品。如果机器人比人类聪明,如果我们制造了机器人却不能控制它们的思想和行为,如果机器人像人类一样实现了自我进化,那么我们将不再是这个星球的主宰。这看起来似乎有些...