人工智能机器会有自己的想法吗（机器会产生自我意识吗）

北京晚报·五色土 | 作者 陈梦溪

《终结者》系列电影的经典成为了一代人的“心理阴影”，那似乎是未来人工智能技术发展到足够强大后的一种必然结果——反过来统治人类。与无所不能且产生自我意识的人工智能相比，人类似乎脆弱到需要保护，否则有着灭亡的危险。其实无论是哪种科幻作品，都是对未来所有可能性的想象的排列组合。只是对比百年前儒勒·凡尔纳浪漫的《海底两万里》《地心历险记》的风格，当代科幻作品似乎总是充满“暗黑”与“恐惧”这两个元素。这种趋势在今年热播的系列剧《爱，死亡，机器人》第三季中更加明显，其中一个片段讲述了三位机器人主角在人类“灭绝”后回到地球，已经成为历史“古迹”的大都市荒无人烟，成为机器人们的热门旅游打卡胜地；人类文明遗址对于未来的机器人世界来说，就像我们现在去复活节岛看古代文明的石像一样。

有趣的是，我们正在亲身经历的人工智能发展，却是另一个极端——目前正在发展的视觉神经网络识别、语音识别、自动驾驶等等热门技术，正有无数商业和资本涌入其中，另一方面，人工智能作为一门学科，也在年轻人中火热起来，越来越多的学子们将其作为一生的科研对象。然而这种从科学到应用的双重火爆，实际面临的境况却是，我们虽然对人工智能的研究突飞猛进，但与科幻小说家们对于其的想象来说，仍显得有些缓慢。人工智能是否会过于聪明、人工智能有了自主意识后的哲学和伦理的问题，似乎还在遥远的未来。

《未来史记》 江波著 四川科学技术出版社

在科幻小说家江波近日出版的作品《未来史记》中，想象了关于人工智能发展的种种可能。人脸识别，虚拟现实，纳米机器、数字生命……江波通过九个短篇小说，希望去探讨当强大的机器成为新人类，生命的意义究竟是什么。江波属于“七零后”作家，毕业于清华大学微电子所，他曾经七次荣获中国科幻银河奖，四次荣获全球华语星云奖金奖。他的小说《移魂有术》被改编为电影《缉魂》，在去年公映后也引发了讨论。

之所以写这本关于人工智能的小说，不仅仅因为人工智能是个热门话题。在他看来，人工智能就是一种正在向我们走来的未来，科幻创作除了放飞想象力之外，更有一层现实的压力存在。人工智能的快速发展，把我们带向一种历史上从未存在过的情况，就是人的脑力劳动会被大量替代，往大的方向说，这会影响到人类整个社会的存在形态，往小的方面说，这给我们当下的许多情景提供了新的可能性。科幻恰好非常关注未来可能性，所以人工智能成为一种题材选择也就成了必然。

将这本书取名为《未来史记》，江波想借此向《史记》致敬。每篇小说开头有一篇“导言”，加入了作家自己的评论，这在以往的小说中是罕见的。史记是纪传体，文末会附上一段司马迁的评论，这段导言，可以看作是评论的变体。江波告诉笔者，他对于人工智能这一方面的观察和认识，就像是和读者先对某个方面的问题进行一次交流，然后再拿出小说来，凭着想象勾画出具体的人和物，在具体情景中描述人工智能，也算是对问题的一种回答。所以这段“导言”或者说评论的目的，就是为了探讨人工智能。它是“现实和科幻融合”的具体表现形式。

书中几篇小说中塑造了哪吒、天元二等几位各不相同的人工智能形象，但它们都“叛变”了原本的任务，“失控”了，如果将来有一天人工智能真的演化到这种程度，人类会冒着失控的危险也要使用吗？对于这个担忧江波解释，人工智能的叛变有两种情况，一种是遵循指令，但是因为人工智能的理解能力超越人类许多，它的所作所为都会超出人类的理解范畴，从而表现为“叛变”但实际上仍旧指向为人类服务的目标。只不过实现的过程会让人类痛苦。第二类才是真正的叛变，也就是人工智能对自身存在意义的反思。他的长篇小说《机器之门》描写的就是这种情形——人类发展的客观规律决定了只要有使用价值，人工智能就会被开发出来。

“失控的风险始终存在，人工智能不会因此停止发展。想一想，我们这个世界，甚至还有故意制造计算机的人存在，制造出具备人类智力甚至超越人类智力的人工智能，会是许多人长期追求的目标。”江波看来，“顺其自然吧，只是我们要尽力让人工智能能够和人类社会文明兼容，让它们尊重人类社会的价值观，不要和人类为敌。这些规则和模式并非预先决定，而是在人和人工智能的互动中逐渐产生。防是防不住的，只能引导。这和教育孩子有些类似。”

从一名普通读者的阅读感受来看，江波似乎对于人工智能的想象过于温柔了。我们能从作品中感受到作家对于一件事物发展的态度是乐观还是悲观，然而在江波眼中，乐观和悲观取决于不同的立场。在他看来，如果机器人最终取代了人类，那么从乐观的角度来看，这是人类的进化，人类可以长生不死了，更强大了。从悲观的角度看，人类作为一个物种已经消亡了，机器统治了世界。

“对于生活在智能世界中的人类，我想最可能的结局是一种‘赎买’，机器人以无微不至的服务，舒适的生活，换取人类的不生不育，沉浸于无穷无尽的满足中，最终快乐地死去。留下的是一个智能机器的世界，这个世界可能找到自己的存在根基，在此基础上建立一种和人类迥乎不同的文明形态。”江波觉得，可以把这个称之为新人类文明，或者机器文明，看个人的喜好，所以他并不以悲观和乐观来标注他的创作，他偏好的科幻是“合理”——基于现实，基于科学原理，基于逻辑。

书乡专访

江波：科幻作家高估也低估了科技发展

书乡：人工智能方面的科幻小说，有哪些对您影响比较大？

江波：一是《2001太空漫游》中的哈尔，这个因为自相矛盾的指令而发疯的人工智能，对后来的科幻创作影响极大。二是阿西莫夫的机器人系列。阿西莫夫的机器人短篇系列，是一种逻辑之美。在他写作的那个时代，人工智能更多还是在一种概念阶段。这些小说也充分体现了那个时代的特色。但凭着机器人三原则这样的逻辑设定，衍生出许多有趣的小故事，对我的启发非常大。

书乡：您在序言中提到，“眼下的世界到了另一个节骨眼上，人工智能的发展让人类进入了第四次工业革命”。作为科幻作家，您如何审视人工智能对未来的影响？

江波：人工智能对未来的影响有极大的不确定性。往高里估计，它会取代人类文明，或者我们可以把它称为人类文明的继承者。往低里估，它会极大帮助人类减少劳动需求，从而重新定义人类社会形态。即便是它的下限，对人类社会也是革命性的影响。

书乡：一些人工智能方面的科学家认为，以我们目前的人工智能发展的水平，还不足以担忧“机器人统治人类”这样的许多科幻小说中发生的较为极端的可能性，您怎么看？

江波：这种说法当然是对的。当前的人工智能，最多发展到了类似于昆虫大脑的水平，当然这是个巨大无比的昆虫。昆虫的特点，就是行为的高度可预测性，可以称之为本能。复杂行为的产生，是多种本能的综合，是对本能行为的取舍。人工智能暂时还没有这种设计，自然也不会产生相关的威胁。但我相信这会是发展方向，人工智能会被用于多任务的情况，而在多任务情况下做出取舍，复杂行为就产生了，自我意识也就随着复杂行为的到来而到来。当下的确不必担忧。但这里有个前提，就是人工智能的发展一直是线性的，但很可能人工智能的发展是非线性的，当人们发现如何把两个人工智能神经网络综合在一起，此类的尝试就会突飞猛进，从而在很短时间内就孵化出高度智慧的人工智能。这样的可能因为是未来情景，你很难用现在的技术条件去估量它。这也是我们不能忽视的可能。

书乡：您怎么看科幻作家的想象与现实的关系？

江波：科幻是一个大圆，而现实是另一个大圆，两个大圆之间只有极少的重叠。从科幻研究的角度来看，科幻小说首先是一种娱乐文化，小说最初发展出来的目的就是提供大众娱乐，是一种消遣。科幻小说也不例外。但科幻小说也有独特的价值，那就是科幻小说和科技密切结合，虽然小说中描述的技术都不一定正确，但对于激发青少年的好奇心很有好处。许多科学家工程师，甚至还有企业家，都认为科幻小说是自己青少年时代的良好精神食粮，这不是偶然。另外就是，科幻小说中和现实结合得较为紧密的一部分，其实具有未来主义的特点，是科幻小说家从自己的角度对未来社会可能发生的情景进行推演。科幻小说中的明珠，除了娱乐价值，它还提供了严肃的思考，对社会未来的走向进行生动的描述，激发人们的向往或者警惕，这就是和现实最贴近的一类。

书乡：人工智能如果有一件事是不可能替代人类的话，您认为那是什么？

江波：人工智能无法取代人类的欲望。人类的欲望植根于生物性，人工智能并非生物，很难说它们会有欲望，或者说如何定义它们的欲望并且保持这种欲望，是个巨大的难题。人类社会能够发展到今天，包括人工智能的出现，追究它的根本，都在于人类自身的欲望，这是进步的核心动力。人工智能很难做到这一点。

书乡：有人说，未来人工智能会替代百分之九十的人类的工作，这究竟是一个失业率更高的被机器取代的社会，还是大部分人不需要工作的理想时代呢？

江波：设想一种人工智能能够替代人类完成工作的情景是很有意思的事。人们自由寻找自己的职业，自由扮演不同的社会角色，对物质的需求由社会供给得到满足，也不会有太多的贪欲。这是一种较为理想的情况。较为黑暗的情况，就是社会财富由极少数人占有，剩下的人类失去了劳动价值，成为被抛弃的人口，如果他们不能成功反抗，那么就会在几个世代的时间里消亡，人类社会转型成为巨富世界，人口稀少，但每个人都拥有极大的财富。社会的总需求，就是这少数人的需求，整个社会反倒因此而萧条，那时，再多的人工智能再高的生产力也没有意义。我认为人类会找到一个对大多数人有利的方式来延续社会发展，不会掉落到太黑暗的世界中去。

书乡：我们目前其实还并没有研究透彻人的大脑是如何运作的，在我们完全不理解人的大脑是如何产生智慧的情况下，如何凭计算机的发展产生出人工智能？

江波：大脑的工作原理，随着脑科学的发展会变得逐步清晰，从而给我们提供更好的参考。目前我们所谈论的有前途的人工智能，恰好是出于对大脑神经网络的模拟。科学还没有给出完整的答案。但是我们从生物的智能发展来看，智能（包括自我意识）的产生，是一个演化的优选策略。大自然演化出了各种具有智能和自我意识的生物，分布极其广泛。鸟类有鸦科动物，哺乳类有大象、黑猩猩，甚至猫和狗，软体动物有章鱼，智能和自我意识在生物界的广泛分布，可以说明智能的产生和优化是神经网络系统天然具备的能力。随着复杂度的增加，和大脑网络模式的增多，智能也变得更高，自我意识逐渐浮现。因为当前的人工智能恰好是生物智能的一种模拟，所以从这个相似性的参考角度，我会认为人工智能也会走出一条类似的道路，复杂度逐渐增加，一直发展到具备自我意识的人工智能。

书乡：百年前的科幻作家们对二十一世纪的畅想许多都没有实现，作为科幻作家，您认为是否前辈科幻作家高估了人类的科技发展？

江波：科幻作家一方面高估，另一方面低估科技发展。这是常态，科幻要是都能说准，那就不叫科幻叫科学了。科幻作家的畅想，更多的是一种线性化的畅想，在现有的基础上更多更快更便捷。比如说蒸汽机时代，就会想象一个蒸汽机驱动的机器人。有线电话时代，未来的电话可能就是机器人把电话带到你身边，而不是手机。科技的发展却往往是非线性的，总是在出乎意料的地方发生飞跃。这也是好事，至少让科幻作家一代代总可以有新东西可写。