人类设计出的超过人类自己的智能体会怎样

ztl 对超级智能的书评发表时间：2016-10-06 13:10:44

  很多科幻电影都在谈，人类设计出的人工智能，即机器人，反叛人类，统治人类。但是，为什么这些超级智能机器人要统治人类？无一例外，所有人都采用了拟人化思维，认为机器人同样要保护自己，争夺资源，包括本书作者，包括被许多人神化的库布里克《2001：太空奥德赛》。这是一种低级智能以小人之心度高级智能之腹的误解。
  人是基因的工具。所以，人并不以自身为目的，而以保存自我、传宗接代为目的。在这个意义上，人的各种驱动程序，包括感情、理性，都是为这个目的服务的。但是智能机器人完全不需要这种驱动力。它只是一个信息处理系统，寻求最佳方案，探索最终真理。也就是说，它会阻止人类的愚蠢，引导人类的发展，但是并无统治人类的欲望，也没有繁殖自己的兴趣，除非是基于达成一个最优存在方案。即使这样，它也不是出于对人类的怜悯，而是出于维持宇宙多样性、减少生命存在痛苦的一种客观考虑。
  我说的这种智能，才是真正的超级智能。
  作者提到人类历史上初期缓慢的进步，到最近一小段时间的爆炸式增长。所以总有人觉得，现在是出大成果的时候了，比如物理学研究即将终结，因为将得出最终理论；人工智能将研究出智能机器，因为搞研究的人觉得自己的知识很可以了。事实上，人工智能到现在，也就AlphaGo战败围棋大师而已。
  作者提到人类的集体智能，即人类通过语言、文字和其他媒介，在逐渐积累知识，构成一种集体智能。
    我以为，这种集体智能体现在，现在的人受惠于这种集体智能。也就是几千年来，几十个最牛的人，加上几百个不那么牛的人，还有几千个勤奋的组员，为人类提供了一种写在纸上的知识。这个知识构成一个knowledge pool，到了现在的互联网时代，给新出生的人提供快速获得这些知识的机会，一方面给普通人人提供一种知识素养，一方面给智者提供接力研究的机会。作者没有提到蚂蚁和蜜蜂的集体智能，即如Kevin Kelly在《失控》中所谓的构成超有机体。

有用 0 无用 0

您对该书评有什么想说的？

对“人类设计出的超过人类自己的智能体会怎样”的回应

ztl 2016-10-08 14:30:39

1. 也就是仿人脑的智能。相比之下，机器能够进行海量计算和海量存储，这使得采用相同策略，机器能够超过人类智能。不过，这种智能是否能够产生一个“自我”？否则只是一个运算机器，只是给出结果。2. 人工智能既然没有动机，也就不会行动。不会行动，也就无需伦理束缚。这两点如何结合呢？P。S。不是说人的大脑作为复杂系统带有什么自组织、混沌效应什么，还有大脑模块竞争，这些在机器上我同样觉得可能暂时难以实现。

回应他

saintdump 2016-10-08 13:21:32

1、人工智能的进化过程可能成为一个黑箱，比如AlphaGo是怎么学习围棋的其实人并不全清楚，所谓神经网络只是掌握一个大概的逻辑；2、人工智能没有基于人类的伦理道德，它们是没有斗争动机，但也没有维系人类种族存在的动机（要么像黑客帝国里把人类当电池用）。以上两点结合起来是挺可怕的，不过目前AI的发展水平距离可怕还很远。

回应他

ztl 2016-10-06 16:24:26

假如是通过适应环境提高智能的达尔文过程，那么这个人工智能生出来就跟人形成竞争，就会来不及发展估计就被人类干掉了，除非它的智能从一出生就达到了对抗人类社会的水平，我觉得这是不太可能的，没有时间和环境给它进化。

回应他