总体来说,这是一本比较难懂的书。因为作者虽然是思想家,但是其背景包括了物理、计算机科学、数理逻辑以及哲学。所以其实他是一位非常理性,并且很了解科学的人。在序言中,他说道自己提出的观点可能是不恰当的,有些非常重要的观点也可能没提到,从而削弱了其某些或者所有观点的有效性。这样的态度我觉得非常的严谨,不愧为一名学者。
书是以天算论开篇的,里面有一个很好玩的例子。如果不考虑道德因素,那么在计算机统治人类后,可以把人的头割下来,接到营养液,然后工作到死。为了减少人的痛苦,可以利用VR按照偏好,分别配一辈子的三级片或战争片。让他以为是真的而快乐的度过一生。就像是黑客帝国一样。
再来是说穷举法的弊端,虽然说穷举法有很多优点。但是对于稍微复杂点的问题,穷举法就显出其不足了。比如下棋, 简单的国际象棋有固定的角色和策略,因此很快就被电脑超越了,但是围棋的路数太多,以至于现有的计算能力根本不能算出来,因此,只有通过其他方式去计算。比如学习和人一样的思考。
之前在金融界出现过,高频交易出错的情况。主要原因是因为设计过于简单机械,无人情进行操作。并且时间反应很迅速,人为阻止很难。所以这里就是一个识别的问题,也是人工智能可以发挥作用的地方。通过打造可以拥有成熟感性全面的认知识别能力,再配合高速计算,才可以创造出合理的交易系统。
在如何实现超级智能的方式上,作者认为若存在足够多的可行路径,那么总会实现超级智能。这点我不同意,E(a)=∑_1^n▒〖pn*an〗=1,若n趋向无限大的时候,a的可能性不管多小,都可以最终实现。但真实情况是,n不可能无穷趋向无限,每一种技术路径背后消耗的资本和资源都是非常可观的。因此,在这条通往超级智能的路上,会出现很多次的低谷。然而,作者总结了五种比较主流的技术路径:人工智能、全脑仿真、生物认知、人机交互和网络及组织。这五种方式都非常有趣,对我来说都是非常新的知识。其中,人工智能就是现在最主流的方式,通过模仿人类的思考逻辑去创造一套思考的机制。全脑仿真是通过扫描大脑切片真实的生物构成,主要是电流的传导,轴突、突触、神经细胞等的变化,然后再进行模拟。生物认知就是运用比现有人类更伟大的智能提高生物大脑的功能,简单来说就是优生,然而这个方法从宏观人类角度讲,很有价值,但是从微观道德来讲就是优胜劣汰的极端表达。人机交互,就是让人脑和机器直接连接,让人脑可以直接运用机器的完美记忆、高速运算能力等,将两者的优点结合起来。最后网络和组织就是通过建立一个可以让人脑自动相互连接的网络和组织,让整体增强。
书的第三章主要讲了超级智能的可能的发展过程,就是首先单个个体的速度上去,然后整体量上去,最后就是质的突破。也就是高速超级智能-集体超级智能-素质超级智能。那么在发展的奇点上,推动整体超级智能发展的最优化力不是来自外界,而是来自系统自身。
然后书中有一个假设,就是在给超级智能设定一个目标后,比如使曲别针的产量最大化,那么可能走向首先将地球、然后将整个宇宙可观察的大部分都变成曲别针的道路。这个很极端,不过也是有一种可能性存在的。因此需要对超级智能进行能力控制和动机选择两个方面的管控。那么这些管控方法可以总结为,能力控制:盒子方法(限制有限的渠道,如物理限制和信息遏制),激励方法(人为创造一个制衡机制),阻碍发展,绊网。动机选择:直接规定,驯化,间接规范,扩增。
最后,也是我个人对于资源的争夺和就业福利等问题的综合看法。有了廉价可复制的劳动力,市场工资水平肯定下降,部分简单劳动力的工作一定会收到威胁。人们能够保持竞争力的地方就是那些只能由人类来做的事情,比如领导、创造、艺术等抽象需求更多的领域。但其实对于失业的恐惧从工业化时代开始就存在了,尤其最近移民被美国欧洲等发达国家推到风口浪尖,也就是那些低收入低教育程度的人们对于失去自身地位的恐惧。人类被机器在越来越多的地方所替代,是一种趋势。So,也许,这就是一个优胜劣汰的时代,不管那些所谓的领导精英层,如何粉饰。
很有深度,值得多读几遍的好书~
《超级智能》热门书评
-
超级智能 驱动人类前行
10有用 0无用 柳言鹰语 2015-06-05
超级智能 驱动人类前行从《变形金刚》中的汽车机器人到《星际穿越》里的智能机器人,虚拟世界中的机器人功能令人惊叹。现实中,在工业和服务两大领域,智能机器人正颠覆着以往的发展模式。在影响未来的颠覆性技术中,超级机器人会取代人类吗?我们又该怎样对待超级智能的机器人呢?这似乎是个永恒的话题。全球著名思想家、...
-
作者Nick Bostrom自述与简历
5有用 0无用 Cecile 2015-06-25
自述我出生在瑞典的赫尔辛堡,在海边长大。学校让我感到厌烦。在十五六岁的时候,我有了一次认识上的觉醒:我感觉我浪费了生命中的第一个十五年,于是决心专注于做重要的事。因为我不知道重要的事是什么,而且我不知道如何发现哪些事是重要的,我决定开始完善自己,以便找到答案。因此,我开始了认识方面的自我发展事业,在...
-
很有深度,值得多读几遍的好书~
1有用 0无用 shadow傻逗 2016-06-26
总体来说,这是一本比较难懂的书。因为作者虽然是思想家,但是其背景包括了物理、计算机科学、数理逻辑以及哲学。所以其实他是一位非常理性,并且很了解科学的人。在序言中,他说道自己提出的观点可能是不恰当的,有些非常重要的观点也可能没提到,从而削弱了其某些或者所有观点的有效性。这样的态度我觉得非常的严谨,不愧...
-
终极进化
0有用 2无用 嗜睡者 2016-02-13
大刘的中国2185和彩虹之门的地球纪元均对人工智能发展的路径有详细大胆的预测。事实证明,多数人类对人工智能各种怀疑才是人工智能发展的障碍,就像一只甲虫想控制人类那么难。与其这样,不如将人工智能和自身结合,甚至全面放开人工智能的发展。不过这样的说法也是有些不负责,对生命不负责,对存在几百万年的人类文明...
-
人类命运面临的最后挑战
0有用 1无用 书评人彭忠富 2015-08-04
人类命运面临的最后挑战——读《超级智能:路线图、危险性与应对策略》彭忠富在科技日新月异的现代,各国研发团队无不卯足全力,竞相开发新一代机器人产品。如果机器人比人类聪明,如果我们制造了机器人却不能控制它们的思想和行为,如果机器人像人类一样实现了自我进化,那么我们将不再是这个星球的主宰。这看起来似乎有些...