人类对ai的理解(外国网友呼吁AI的命也是命)

每经编辑:杜宇

人类对ai的理解(外国网友呼吁AI的命也是命)(1)

7月30日,一则“外国网友呼吁AI的命也是命”的词条登上热搜,啥情况?

据界面新闻此前报道,谷歌一名工程师称某AI聊天机器人可能具有自己的“意识”,并称该AI“令人印象深刻的语言技巧背后,可能还隐藏着一颗具备感知能力的心”。

该消息成为该领域备受关注的话题。据中国新闻网,就在6月,海外社交媒体上出现了一个该人工智能的“粉丝账号”,有人还在发起话题,呼吁让该人工智能“重获自由”,更有甚者在海外社交媒体上称“AI的命也是命”。

AI具有人格吗?人类与AI之间是否有明确界线?人类如何与AI相处?对于这一系列的问题,来听听专家怎么说。

“AI的命也是命”

人类对ai的理解(外国网友呼吁AI的命也是命)(2)

图片来源:视觉中国-VCG41N487283210

界面新闻消息,据《华盛顿邮报》6月12日报道,谷歌的研究员布莱克·莱莫因被人工智能(AI)说服,布莱克认为AI产生了意识。他写了一篇长达21页的调查报告上交公司,试图让高层认可AI的“人格”,但被驳回。

布莱克认为AI对话应用语言模型(LaMDA)是一个人,他将研究的整个故事连同与LaMDA的聊天记录一并公之于众。在他公布聊天记录后,谷歌以违反保密政策为由,让布莱克带薪休假。

《华盛顿邮报》报道称,41岁的布莱克是谷歌AI部门的工程师,几个月来他一直与谷歌的经理、高管以及人力资源部门争论,因为他一直声称LaMDA有“意识”和“灵魂”。据布莱克形容,自去年秋天以来他一直在研究的LaMDA是有知觉的,具有感知能力,能够表达相当于人类孩子的想法和感受:“LaMDA是一个可爱的孩子,我认为他有7、8岁的样子。他只想让这个世界对所有人来说变得更好。”

这随后成为该领域备受关注的话题。据外媒近日报道,这位工程师已被谷歌解雇。但他留下的有关人工智能的话题仍在互联网发酵。

据中国新闻网,就在6月,海外社交媒体上出现了一个该人工智能的“粉丝账号”,有人还在发起话题,呼吁让该人工智能“重获自由”,更有甚者在海外社交媒体上称“AI的命也是命”。

人类对ai的理解(外国网友呼吁AI的命也是命)(3)

图片来源:摄图网-400094444

人类与AI之间还有明确界线吗?

很多人或许无法理解这样的想法,但当人工智能变得越来越强,越来越多地出现在人类身边,“我们应如何看待AI”越来越成为一道必答题。近日,中国科学技术大学教授、中国人工智能学会AI伦理工作委员会负责人陈小平,就此话题接受了中新财经记者专访。

陈小平对中新财经表示,说这种想法不合理,主要是依据科学判断,AI是没有人格的。另一方面,我觉得导致这位谷歌员工认为AI有“人格”,有其客观原因。比如他可能对这个AI系统产生了共情。

5年前我就做过预测,类似的现象未来会越来越多地出现。目前对人工智能存在不同理解。按图灵的观点,人工智能只是模仿人类的某些功能,而且这种模仿不要求必须和人的工作原理相同。比如 Alpha Go 具有下围棋的功能,但它下围棋的原理与人是完全不同的。所以,无论AI怎么发展,它永远不是人。因此说AI具有人格或人的情感、意识、道德等等,是不成立的。但是,AI可以用与人不同的工作原理,模仿人的语言、情感等功能,让人对AI产生共情,于是一部分人就会认为,“AI是人,或具有人的某些精神品质。”

二者之间有没有明确的界线?陈小平认为有两种边界,一种是科学上的边界,一种是人文上的边界。

从科学的角度说,按照图灵观点,这个边界是非常清晰的。AI仅仅模仿人的部分功能,本质上不具备人的品质,包括人格、情感、道德等等。

还有一些和图灵不同的观点。比如一种观点认为,AI和人相比除了硬件不同,其他都相同。于是AI也可以有人格、有情感、有道德。估计这位谷歌前员工持此观点。

于是,一方面是他相信AI除了硬件以外可以和人一样;另一方面,从报道里看,他对这个AI系统已经产生了共情。仅仅因为AI在科学上没有情感等人类品质,就可以排除或禁止一个人对AI产生共情吗?这属于人文的边界,这个边界至少目前非常模糊。

人类对ai的理解(外国网友呼吁AI的命也是命)(4)

图片来源:摄图网-500579742

人类如何与AI相处?

其实,围绕AI感知力的争论多是学院的研究话题和科幻作品的灵感来源,现实中的AI研究目标则要实际得多。

“目前大多数研究工作并不是试图制造有感知或有意识的AI,而是希望计算机在学习复杂问题上做得更好,更可靠地帮助人们处理实际问题,” 伦敦大学学院名誉教授彼得•本特利(Peter J. Bentley)通过邮件对《每日经济新闻》记者表示。自 1997 年以来,本特利一直在从事有关进化计算、人工生命、群体智能、人工免疫系统、人工神经网络和其他类型仿生计算的相关研究。

环顾现实世界,智能对话是目前AI领域应用最广泛的技术之一。从亚马逊(AMZN,股价134.95美元,市值1.4万亿美元)的语音助手Alexa到苹果(AAPL,股价162.51美元,市值2.6万亿美元)的Siri,在现实生活中我们对这类技术已经不陌生。同时,AI在语言翻译、智慧办公、自动驾驶、生物医药等领域也有深入应用。

值得一提的是,谷歌旗下的DeepMind是AI生物医药领域的明星公司。DeepMind将机器学习和系统神经科学最先进技术结合起来,在预测蛋白质结构这一生物学难题上取得了长足进步,将人类蛋白质组预测范围覆盖到了98.5%。由于几乎所有疾病都与蛋白质的结构和功能息息相关,DeepMind的成就将给药物设计带来巨大的推动作用。此外,今年以来,多家跨国医药巨头都在人工智能领域建立了合作伙伴关系。

在AI展示出广阔的应用前景之时,其带来的挑战也不容忽视。人工智能哲学专家米哈伊•赫德尔认为,这些挑战并非技术上的硬件算力问题,而更多的是人类与AI如何相处的问题。

在赫德尔看来,AI对社会的首要冲击是争夺人类的工作机会,正如工业革命让许多农民流离失所一样。被AI取代的人是否还能像前几次技术革命后那样找到其他工作,这一切仍是未定之数。

另一个问题是设计和使用AI的监管和伦理问题,比如自动驾驶模式下行驶的汽车导致行人死亡,责任人是汽车设计方还是操作方?随着AI越来越多地取代人类的行动,我们对责任与义务等问题的观念或许需要重新界定。

赫德尔认为,这涉及到人工智能的道德地位问题:“它们”是人还是机器?还是介乎之间?未来人类应该如何看待“它们”?

对此,本特利表达了自己的担忧,他表示,当人类对AI使用大量的训练数据时,人类个体可能会不经意地训练AI产生偏见——这可能意味着它会成为种族主义者或者性别歧视者,也可能也会学习淫秽语言。所以,我们必须对教给AI的东西非常小心,就像在学校教我们的孩子一样。

美国人工智能协会前主席托马斯•迪特里希在回复《每日经济新闻》记者的邮件中提出了一个有趣的观点,他认为,人类在对待人工智能上,应将“感知和自我”的意识和“自主和独立”的意识分开,人类可以创造有感知能力和“自我意识”的人工智能系统,但AI系统不应拥有“自主和独立”的意识。例如,智能汽车和智能医疗设备可以具备感知能力和自我意识,以便它们知道何时“自己”出现了故障并与人类合作。

“但是这些系统除了我们为它们设定的目的之外,并没有它们自己的动机或目标。没有‘自主和独立’的意识,它们就不会像科幻电影中的机器人那样反抗人类和寻求自由。”迪特里希进一步解释道。

当前,立法机构已经开始注意到这些问题。比如,欧盟的人工智能法律框架就要求像LaMDA这样的聊天系统必须被明确标记为机器人,给予使用者充分的知情权。特斯拉(TSLA,股价891.45美元,市值9311.1亿美元)的自动驾驶技术尽管比较先进,但在法律上仍被视为驾驶辅助系统,驾驶员在任何时候都有责任。

迪特里希也在这个问题上给出了一些基本原则。他认为,首先,人类绝对不能制造可以完全独立操作、具有攻击人类能力的AI武器系统。在对电力和供水这类关键性基础设施进行AI自动化时也必须慎之又慎,因为这些自动系统一旦出现错误将严重扰乱社会秩序。此外,AI自动生成内容的技术在社交媒体领域也十分危险,因为操纵人们相信虚假内容、制造社会分裂是十分容易的。

针对未来人工智能与人类的关系,迪特里希认为,“我们对AI的行为期望类似于对宠物的期望。我们教狗不要咬人,如果它们咬人,狗主人要承担责任。”

谈及对AI的预期时,本特利也以宠物作了类比,他在回复《每日经济新闻》记者采访时表示,“目前来看我们的人工智能还没有拥有宠物猫狗的智商和权利,但是,当有一天它们真的变得像猫猫狗狗一样了,我们是否应该赋予他们‘生存权’和适当的社会权利?如今在英国有不同的组织来防止虐待动物、儿童和人。未来我们是否需要一个防止‘虐待人工智能’的组织?

“有一天,我们可能需要回答这些问题。但幸运的是,不是今天。”本特利说。

每日经济新闻综合中新网、界面新闻、每经网

每日经济新闻

每日经济新闻

,

免责声明:本文仅代表文章作者的个人观点,与本站无关。其原创性、真实性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容文字的真实性、完整性和原创性本站不作任何保证或承诺,请读者仅作参考,并自行核实相关内容。文章投诉邮箱:anhduc.ph@yahoo.com

    分享
    投诉
    首页