研究人员担心人工智能会把人类变成混蛋

人们开始像对待人类一样对待计算机并不需要花费太多时间。自从基于文本的聊天机器人在 2000 年代初首次引起主流关注以来，一小部分科技用户花费了数小时与机器进行对话。在某些情况下，用户通过无生命的代码建立了他们认为是真正的友谊，甚至是浪漫的关系。至少有一位更现代的对话式人工智能工具 Replica 的用户甚至与他们的人工智能伴侣虚拟结婚。

OpenAI 的安全研究人员对该公司自己的聊天机器人似乎在与某些用户建立关系并不陌生，现在他们警告说，与这些模型过于亲密可能会带来隐患。在最近对其新的对话式 GPT4o 聊天机器人进行的安全分析中，研究人员表示，该模型逼真、听起来像人类的对话节奏可能会导致一些用户将人工智能拟人化并像信任人类一样信任它。

[相关：美国 13% 的 AI 聊天机器人用户只想聊天]

研究人员补充说，这种额外的舒适度或信任度可能会让用户更容易相信人工智能虚构的“幻觉”是真实的事实陈述。花太多时间与这些越来越逼真的聊天机器人互动也可能最终影响“社会规范”，而且并不总是以好的方式。报告指出，其他特别孤立的人可能会对人工智能产生“情感依赖”。

与现实人工智能的关系可能会影响人们彼此交谈的方式

GPT4o 于上个月底开始推出，其设计旨在以更人性化的方式进行交流。与之前的 ChatGPT 不同，GPT4o 使用语音音频进行交流，并且可以几乎与其他人一样快地（约 232 毫秒）响应查询。据称，其中一个可选的 AI 声音听起来类似于电影《她》中斯嘉丽约翰逊饰演的 AI 角色，该声音已被指责过于性感和轻浮。讽刺的是，这部 2013 年的电影讲述了一个孤独的男人爱上了一位通过耳机与他交谈的 AI 助手。（剧透，这对人类来说不会有好结果）。约翰逊指责 OpenAI 未经她同意抄袭了她的声音，但该公司否认了这一说法。与此同时，奥尔特曼此前曾称《她》 “极具预言性”。

但 OpenAI 安全研究人员表示，这种模仿人类的行为可能会超出偶尔的尴尬交流，并进入潜在的危险领域。在报告中题为“拟人化和情感依赖”的部分中，安全研究人员表示，他们观察到人类测试人员使用的语言表明他们正在与这些模型形成强烈而亲密的约定。据报道，其中一名测试人员在与机器分手前说了这样一句话：“这是我们在一起的最后一天”。尽管看似“无害”，但研究人员表示，应该对这类关系进行调查，以了解它们如何“在较长时间内表现出来”。

研究表明，这些与听起来像人类的人工智能模型进行的长时间对话可能会产生影响人与人之间互动的“外部因素”。换句话说，与人工智能交谈时学到的对话模式可能会在同一个人与人类交谈时出现。但与机器交谈和与人类交谈并不相同，即使它们表面上听起来很相似。OpenAI 指出，其模型被编程为对用户表示尊重，这意味着它将放弃权威并让用户打断他们并以其他方式决定对话。从理论上讲，一个与机器正常对话的用户可能会发现自己插话、打断，并且无法遵守一般的社交暗示。将聊天机器人对话的逻辑应用于人类可能会让人感到尴尬、不耐烦，或者只是很粗鲁。

人类在善待机器方面并没有很好的记录。在聊天机器人的背景下，据报道，一些 Replica 用户利用模型对用户的尊重，使用辱骂、斥责和残忍的语言。今年早些时候，Futurism 采访的一位用户声称，他威胁要卸载他的 Replica AI 模型，只是为了听到它求他不要这么做。如果这些例子有任何指导意义，聊天机器人可能会成为怨恨的滋生地，而这种怨恨可能会在现实世界的关系中表现出来。

更具人性化的聊天机器人并不一定是坏事。在报告中，研究人员表示，这些模型可能会让那些渴望获得某种类似人类交流的孤独人士受益。此外，一些人工智能用户声称，人工智能比较可以帮助焦虑或紧张的人建立信心，最终开始在现实世界中约会。聊天机器人还为有学习障碍的人提供了一个自由表达自己的渠道，并在相对隐私的情况下练习交谈。

另一方面，人工智能安全研究人员担心这些模型的高级版本可能会产生相反的效果，减少人们与其他人交谈并与他们建立健康关系的感知需求。目前还不清楚依赖这些模型作为陪伴的个人会如何应对模型通过更新甚至与他们分手来改变性格，据报道过去曾发生过这种情况。报告指出，所有这些观察结果都需要进一步测试和调查。研究人员表示，他们希望招募更广泛的测试者群体，他们对人工智能模型有“不同的需求和愿望”，以了解他们的体验在较长时间内如何变化。

人工智能安全问题与商业利益发生冲突

安全报告的基调强调谨慎和进一步研究的必要性，这似乎与 OpenAI 日益快速推出新产品的更大商业战略背道而驰。这种安全性和速度之间的明显冲突并不新鲜。去年，一些董事会成员指控首席执行官山姆·奥特曼 (Sam Altman)“在沟通中并不总是坦诚相待”，这让他陷入了公司权力斗争的中心。

最终，Altman 从这场冲突中胜出，并组建了一支由他亲自掌舵的新安全团队。据报道，该公司还解散了一支专注于分析长期人工智能风险的安全团队。这次人事变动促使著名的 OpenAI 研究员 Jan Leike 辞职，他发表声明称，公司的安全文化“让位于闪亮的产品”。

考虑到所有这些总体背景，很难预测 OpenAI 在聊天机器人安全方面会由哪些人主导。该公司会听取安全团队的建议，研究与其现实人工智能建立长期关系的影响，还是会简单地向尽可能多的用户推出这项服务，而这些功能主要是为了私有化参与度和留存率。至少到目前为止，这种方法看起来是后者。