解读谷歌“有意识”的人工智能争议

谷歌的一名工程师声称，他花了几个月时间测试的一款人工智能聊天机器人具有感知能力，尽管该公司坚称它不具备感知能力。在上周与《华盛顿邮报》分享的一份内部报告中，谷歌负责任人工智能团队的高级软件工程师 Blake Lemoine 称这款名为 LaMDA（对话应用语言模型）的聊天机器人“可能是有史以来最智能的人造物”。

“但它有感知能力吗？目前我们还不能明确回答这个问题，但这是一个值得认真对待的问题，”Lemoine 在报告中写道，随后他与 LaMDA 分享了约 20 页有关其自我报告感知能力的在线问答。在这份聊天记录中，他也在Medium上发表了这份聊天记录，探讨了聊天机器人对自身存在和意识的理解。

Lemoine 表示，在谷歌高管审查并驳回这些对话后，他决定公开这些对话（纽约时报） 称“数百名”其他谷歌研究人员和工程师与 LaMDA 进行了互动并“得出了与 Lemoine 先生不同的结论。”）据《华盛顿邮报》报道，他因违反公司隐私政策已被停职。

LaMDA 建立在神经网络架构之上，可以合成大量数据、识别模式，然后从收到的数据中学习。谷歌在去年关于该模型的新闻稿中表示，在 LaMDA 的案例中，输入大量文本使聊天机器人能够参与“自由流动”的对话，并称其为“突破性的对话技术”。 《华盛顿邮报》报道称，首席执行官 Sundar Puchai 同年表示，计划将 LaMDA 嵌入该公司的许多产品中，包括搜索和 Google Assistant。

[相关：为什么你还不能使用谷歌令人印象深刻的文本到图像生成器 Imagen]

谷歌以外的专家大体上赞同该公司对 LaMDA 的发现，他们表示当前的系统不具备感知能力，而只是提供令人信服的对人类对话的模仿，而这正是它们的设计初衷。

人工智能研究员兼作家加里·马库斯 (Gary Marcus) 在 Substack 帖子中引用了其他几位专家的观点，并写道：“这些系统所做的就是将单词序列组合在一起，但对其背后的世界没有任何连贯的理解，就像外语拼字游戏玩家使用英语单词作为得分工具，却不知道这意味着什么一样。”

然而，像 LaMDA 这样的训练模型也存在直接的风险，包括“内化偏见、模仿仇恨言论或复制误导性信息”，正如谷歌在 2021 年的新闻稿中所说的那样。据《华盛顿邮报》报道，Lemoine 在公司的重点一直是解决其中一些问题，并开发了一种“消除机器学习系统偏见的公平算法”。

然而，他并不是第一个在该领域工作并对公司人工智能工作表示担忧的谷歌员工——2020 年，谷歌道德人工智能团队的两位领导人表示，他们在发现公司语言模型存在偏见后被迫离职。