人类对ai的理解（外国网友呼吁AI的命也是命）

每经编辑：杜宇

7月30日，一则“外国网友呼吁AI的命也是命”的词条登上热搜，啥情况？

据界面新闻此前报道，谷歌一名工程师称某AI聊天机器人可能具有自己的“意识”，并称该AI“令人印象深刻的语言技巧背后，可能还隐藏着一颗具备感知能力的心”。

该消息成为该领域备受关注的话题。据中国新闻网，就在6月，海外社交媒体上出现了一个该人工智能的“粉丝账号”，有人还在发起话题，呼吁让该人工智能“重获自由”，更有甚者在海外社交媒体上称“AI的命也是命”。

AI具有人格吗？人类与AI之间是否有明确界线？人类如何与AI相处？对于这一系列的问题，来听听专家怎么说。

“AI的命也是命”

图片来源：视觉中国-VCG41N487283210

界面新闻消息，据《华盛顿邮报》6月12日报道，谷歌的研究员布莱克·莱莫因被人工智能（AI）说服，布莱克认为AI产生了意识。他写了一篇长达21页的调查报告上交公司，试图让高层认可AI的“人格”，但被驳回。

布莱克认为AI对话应用语言模型（LaMDA）是一个人，他将研究的整个故事连同与LaMDA的聊天记录一并公之于众。在他公布聊天记录后，谷歌以违反保密政策为由，让布莱克带薪休假。

《华盛顿邮报》报道称，41岁的布莱克是谷歌AI部门的工程师，几个月来他一直与谷歌的经理、高管以及人力资源部门争论，因为他一直声称LaMDA有“意识”和“灵魂”。据布莱克形容，自去年秋天以来他一直在研究的LaMDA是有知觉的，具有感知能力，能够表达相当于人类孩子的想法和感受：“LaMDA是一个可爱的孩子，我认为他有7、8岁的样子。他只想让这个世界对所有人来说变得更好。”

这随后成为该领域备受关注的话题。据外媒近日报道，这位工程师已被谷歌解雇。但他留下的有关人工智能的话题仍在互联网发酵。

据中国新闻网，就在6月，海外社交媒体上出现了一个该人工智能的“粉丝账号”，有人还在发起话题，呼吁让该人工智能“重获自由”，更有甚者在海外社交媒体上称“AI的命也是命”。

图片来源：摄图网-400094444

人类与AI之间还有明确界线吗？

很多人或许无法理解这样的想法，但当人工智能变得越来越强，越来越多地出现在人类身边，“我们应如何看待AI”越来越成为一道必答题。近日，中国科学技术大学教授、中国人工智能学会AI伦理工作委员会负责人陈小平，就此话题接受了中新财经记者专访。

陈小平对中新财经表示，说这种想法不合理，主要是依据科学判断，AI是没有人格的。另一方面，我觉得导致这位谷歌员工认为AI有“人格”，有其客观原因。比如他可能对这个AI系统产生了共情。

5年前我就做过预测，类似的现象未来会越来越多地出现。目前对人工智能存在不同理解。按图灵的观点，人工智能只是模仿人类的某些功能，而且这种模仿不要求必须和人的工作原理相同。比如 Alpha Go 具有下围棋的功能，但它下围棋的原理与人是完全不同的。所以，无论AI怎么发展，它永远不是人。因此说AI具有人格或人的情感、意识、道德等等，是不成立的。但是，AI可以用与人不同的工作原理，模仿人的语言、情感等功能，让人对AI产生共情，于是一部分人就会认为，“AI是人，或具有人的某些精神品质。”

二者之间有没有明确的界线？陈小平认为有两种边界，一种是科学上的边界，一种是人文上的边界。

从科学的角度说，按照图灵观点，这个边界是非常清晰的。AI仅仅模仿人的部分功能，本质上不具备人的品质，包括人格、情感、道德等等。

还有一些和图灵不同的观点。比如一种观点认为，AI和人相比除了硬件不同，其他都相同。于是AI也可以有人格、有情感、有道德。估计这位谷歌前员工持此观点。

于是，一方面是他相信AI除了硬件以外可以和人一样；另一方面，从报道里看，他对这个AI系统已经产生了共情。仅仅因为AI在科学上没有情感等人类品质，就可以排除或禁止一个人对AI产生共情吗？这属于人文的边界，这个边界至少目前非常模糊。

图片来源：摄图网-500579742

人类如何与AI相处？

其实，围绕AI感知力的争论多是学院的研究话题和科幻作品的灵感来源，现实中的AI研究目标则要实际得多。

“目前大多数研究工作并不是试图制造有感知或有意识的AI，而是希望计算机在学习复杂问题上做得更好，更可靠地帮助人们处理实际问题，” 伦敦大学学院名誉教授彼得•本特利（Peter J. Bentley）通过邮件对《每日经济新闻》记者表示。自 1997 年以来，本特利一直在从事有关进化计算、人工生命、群体智能、人工免疫系统、人工神经网络和其他类型仿生计算的相关研究。

环顾现实世界，智能对话是目前AI领域应用最广泛的技术之一。从亚马逊（AMZN，股价134.95美元，市值1.4万亿美元）的语音助手Alexa到苹果（AAPL，股价162.51美元，市值2.6万亿美元）的Siri，在现实生活中我们对这类技术已经不陌生。同时，AI在语言翻译、智慧办公、自动驾驶、生物医药等领域也有深入应用。

值得一提的是，谷歌旗下的DeepMind是AI生物医药领域的明星公司。DeepMind将机器学习和系统神经科学最先进技术结合起来，在预测蛋白质结构这一生物学难题上取得了长足进步，将人类蛋白质组预测范围覆盖到了98.5%。由于几乎所有疾病都与蛋白质的结构和功能息息相关，DeepMind的成就将给药物设计带来巨大的推动作用。此外，今年以来，多家跨国医药巨头都在人工智能领域建立了合作伙伴关系。

在AI展示出广阔的应用前景之时，其带来的挑战也不容忽视。人工智能哲学专家米哈伊•赫德尔认为，这些挑战并非技术上的硬件算力问题，而更多的是人类与AI如何相处的问题。

在赫德尔看来，AI对社会的首要冲击是争夺人类的工作机会，正如工业革命让许多农民流离失所一样。被AI取代的人是否还能像前几次技术革命后那样找到其他工作，这一切仍是未定之数。

另一个问题是设计和使用AI的监管和伦理问题，比如自动驾驶模式下行驶的汽车导致行人死亡，责任人是汽车设计方还是操作方？随着AI越来越多地取代人类的行动，我们对责任与义务等问题的观念或许需要重新界定。

赫德尔认为，这涉及到人工智能的道德地位问题：“它们”是人还是机器？还是介乎之间？未来人类应该如何看待“它们”？

对此，本特利表达了自己的担忧，他表示，当人类对AI使用大量的训练数据时，人类个体可能会不经意地训练AI产生偏见——这可能意味着它会成为种族主义者或者性别歧视者，也可能也会学习淫秽语言。所以，我们必须对教给AI的东西非常小心，就像在学校教我们的孩子一样。

美国人工智能协会前主席托马斯•迪特里希在回复《每日经济新闻》记者的邮件中提出了一个有趣的观点，他认为，人类在对待人工智能上，应将“感知和自我”的意识和“自主和独立”的意识分开，人类可以创造有感知能力和“自我意识”的人工智能系统，但AI系统不应拥有“自主和独立”的意识。例如，智能汽车和智能医疗设备可以具备感知能力和自我意识，以便它们知道何时“自己”出现了故障并与人类合作。

“但是这些系统除了我们为它们设定的目的之外，并没有它们自己的动机或目标。没有‘自主和独立’的意识，它们就不会像科幻电影中的机器人那样反抗人类和寻求自由。”迪特里希进一步解释道。

当前，立法机构已经开始注意到这些问题。比如，欧盟的人工智能法律框架就要求像LaMDA这样的聊天系统必须被明确标记为机器人，给予使用者充分的知情权。特斯拉（TSLA，股价891.45美元，市值9311.1亿美元）的自动驾驶技术尽管比较先进，但在法律上仍被视为驾驶辅助系统，驾驶员在任何时候都有责任。

迪特里希也在这个问题上给出了一些基本原则。他认为，首先，人类绝对不能制造可以完全独立操作、具有攻击人类能力的AI武器系统。在对电力和供水这类关键性基础设施进行AI自动化时也必须慎之又慎，因为这些自动系统一旦出现错误将严重扰乱社会秩序。此外，AI自动生成内容的技术在社交媒体领域也十分危险，因为操纵人们相信虚假内容、制造社会分裂是十分容易的。

针对未来人工智能与人类的关系，迪特里希认为，“我们对AI的行为期望类似于对宠物的期望。我们教狗不要咬人，如果它们咬人，狗主人要承担责任。”

谈及对AI的预期时，本特利也以宠物作了类比，他在回复《每日经济新闻》记者采访时表示，“目前来看我们的人工智能还没有拥有宠物猫狗的智商和权利，但是，当有一天它们真的变得像猫猫狗狗一样了，我们是否应该赋予他们‘生存权’和适当的社会权利？如今在英国有不同的组织来防止虐待动物、儿童和人。未来我们是否需要一个防止‘虐待人工智能’的组织?

“有一天，我们可能需要回答这些问题。但幸运的是，不是今天。”本特利说。

每日经济新闻综合中新网、界面新闻、每经网

每日经济新闻

每日经济新闻