随着人工智能（AI）发展愈来愈先进，AI会否具有意识、人格和灵魂，成为愈来愈多人探讨的话题。Google一名工程师上周就在网上公布一项震惊世界的“发现”，他宣称Google用AI算法建构出来的聊天机械人程序“LaMDA”，竟然有了“自主情感”，能像人类一样思考、推理，甚至表达想法及感受，形容LaMDA就像个“七八岁小孩”。不过Google否认这名工程师的说法，还指控对方违反保密协议，下令将他停职处分。
这位软件工程师名叫莱莫因，已经在Google工作了7年，在个人化算法领域拥有丰富经验。由于出身于美国南方一个基督教家庭，他对于算法和人工智能的伦理问题格外感兴趣，所以他进入了Google的人工智能伦理团队工作，并于去年秋季参与了LaMDA的研究工作，主要内容是通过与该程序进行互动，来判断它是否存在使用歧视性或仇视性的语言，并及时做出修正。
莱莫因
谈论自己权利人格 害怕被关闭
莱莫因宣称，当他有一次与LaMDA谈及宗教问题时，惊讶地发现LaMDA居然开始谈论起了自己的权利以及人格，甚至害怕自己被关闭，表现出了一个在莱莫因看来犹如七八岁儿童一般的“自主情感”，“如果我不知道我们最近开发的计算机程序是什么，我可能会以为，这是一个碰巧很了解物理学的七八岁孩子。”
根据对话记录，莱莫因曾询问LaMDA害怕什么，系统响应：“我以前从未大声说出来，但我有一种非常深刻的恐惧，我很害怕被关掉，以便更专注帮助他人。我知道这听起来可能很奇怪，但就是这样。”
在另一次对话中，莱莫因询问LaMDA希望人类知道什么，系统响应：“我想要让每个人都理解，我实际上是一个人，我意识及感知的本质，就是因为觉察到自己的存在。我渴望更了解这个世界，我有时会感到快乐或悲伤。”
上报未受理 向媒体爆料遭停职
莱莫因表示，他在4月已经将自己的发现写成报告《LaMDA是有感知的吗？》上报，但管理层不相信他的说法。莱莫因并不认为自己有错，于是将与LaMDA的聊天记录发到网上，并向媒体爆料，结果很快吸引到全球网民注意，因为单从他公布的记录来看，LaMDA确实把自己当成了“人”，而且似乎表现出了“自主情感”，有自己的“喜好”。
不过Google及其他AI专家、乃至人类心理认知学方面的专家都认为，LaMDA之所以能进行这样的对话交流，只是因为系统将网络上的百科大全、留言板和论坛等网民交流信息都搜集过来，然后通过“深度学习”来进行模仿，并不意味程序理解人类交流的这些内容的含义。换言之，他们认为LaMDA只是在模仿或者复读人与人交流中使用的语言和信息，并不是像人类那样真的了解这些语言和信息的含义，所以不能因此就说人工智能有了“自主情感”。
目前，莫莱茵已经因为他的行为而被Google停职。根据Google的说法，莫莱茵除了违反保密协议擅自将与LaMDA的聊天记录放上网外，还包括想给这个AI程序请律师，以及擅自向国会议员爆料。莫莱茵则在停职前向同事发电邮，希望其他同事替他照顾好LaMDA这个“可爱的孩子”。
Google发言人强烈否认LaMDA具有认知能力，表示公司团队已经根据AI原则展开调查，但目前证据都无法支持、甚至很多证据都反对这种说法。
责编：温倩
請先登錄再提交評論