OpenAI 解散了致力于防止流氓人工智能的团队

OpenAI 解散了其“超级协同团队”，该团队的任务是在宣布成立后不到一年内抵御人工智能可能带来的生存风险。今天早些时候， Wired和其他媒体首次证实了解散的消息，同时该公司前超级协同团队联合负责人 Jan Leike 在X上发布了一篇长文。在今天的解释之前，Leike 只是在 5 月 15 日发了一条推文“我辞职了”，没有提供任何进一步的详细说明。

Leike 今天在X上写道：“我加入是因为我认为 OpenAI 是世界上进行这项研究的最佳场所。”“然而，我与 OpenAI 领导层在公司的核心优先事项上意见分歧已有一段时间，直到我们最终到达了临界点。”

OpenAI 于 2023 年 7 月成立了超级联盟项目。在一篇随附的博客文章中，该公司声称超级人工智能“将成为人类有史以来最具影响力的技术，可以帮助我们解决世界上许多最重要的问题。但超级人工智能的巨大力量也可能非常危险，可能会导致人类丧失权力甚至灭绝。”

昨天是我担任协调主管、超级协调负责人和@OpenAI 执行官的最后一天。

— Jan Leike (@janleike) 2024 年 5 月 17 日

“管理这些风险需要建立新的治理机构，并解决超级智能协调问题，”该公司继续说道，同时宣布 Leike 和 OpenAI 首席科学家兼联合创始人 Ilya Sutskever 为超级协调团队的联合负责人。Sutskever 也因类似担忧离开了 OpenAI，而该团队的剩余成员据称已被其他研究小组吸收。

该公司的高管和开发人员，包括首席执行官 Sam Altman，曾多次警告“流氓人工智能”的威胁，如果设计不当，可能会绕过人类的安全措施。与此同时，OpenAI 与谷歌和 Meta 等公司经常宣传他们最新的人工智能产品进展，其中一些产品现在可以制作近乎逼真的媒体和令人信服的人类音频。本周早些时候，OpenAI 宣布发布 GPT-4o，这是一种多模态生成人工智能系统，可以对人类的提示做出栩栩如生的响应，尽管有时仍然有些生硬。一天后，谷歌公布了自己的类似进展。尽管据称存在严重风险，但这些公司经常声称自己正是能够解决这些问题的专家，同时游说制定行业法规。

[相关：萨姆·奥特曼：人工智能时代需要“能源突破” ]

尽管雷克离职和超级对齐团队关闭的具体细节尚不清楚，但最近的内部权力斗争暗示了人们对如何以安全、公平的方式推动行业发展的意见存在明显分歧。一些批评人士认为，人工智能行业正迅速进入收益递减的时代，促使科技领导者降低对产品的期望并改变目标。雷克等其他人似乎确信人工智能可能很快仍会对人类构成严重威胁，而像 OpenAI 这样的公司并没有足够重视这一点。

但正如许多批评人士指出的那样，生成式人工智能还远未具备自我意识，更谈不上“叛变”。然而，无论聊天机器人是否有感知能力，现有技术已经影响到虚假信息、内容所有权和人类劳工权利等主题。随着公司继续将新兴的人工智能系统推向网络搜索、社交媒体和新闻出版物，社会将不得不承担由此带来的后果。