科技巨头最新发出的人工智能末日警告可能只是炒作

超过 350 名人工智能研究人员、伦理学家、工程师和公司高管共同签署了一份 22 字的单句声明，内容涉及人工智能对人类的潜在生存风险。这份声明由非营利组织人工智能安全中心 (Center for AI Safety) 编制，该联盟由“人工智能教父”杰弗里·辛顿 (Geoffrey Hinton)、OpenAI 首席执行官山姆·奥特曼 (Sam Altman) 和微软首席技术官凯文·斯科特 (Kevin Scott) 组成，他们一致认为：“减轻人工智能灭绝的风险应该成为全球优先事项，与其他社会规模的风险（如流行病和核战争）一样。”

这封 22 字的信函及其支持呼应了今年早些时候发布的一封类似的、略长的联合信函，该信函呼吁对开发比 OpenAI 的 GPT-4 更强大的人工智能的研究进行为期六个月的“暂停”。但这一暂停尚未实施。

[相关：人工智能暂停信中存在一个明显的问题。]

人工智能安全中心执行董事丹·亨德里克斯周二在接受《纽约时报》采访时表示，这封公开信是一些行业领袖的“出柜”。亨德里克斯补充道：“即使在人工智能界，也存在一个非常普遍的误解，认为只有少数人持悲观态度。但事实上，许多人私下都会对这些事情表示担忧。”

但批评人士仍然对此类公开声明背后的动机及其可行性持谨慎态度。

“不要被愚弄：这是伪装成拉响警报的自私炒作，”分布式人工智能研究所 (DAIR) 的研究工程师 Dylan Baker 说道，该机构是一个推动人工智能道德发展的组织。Baker 在接受PopSci采访时继续指出，当前有关假设的生存风险的讨论分散了公众和监管机构对“当今人工智能的具体危害”的注意力。这些危害包括“放大算法危害、从剥削劳动力和窃取数据中获利，以及通过资源消耗加剧气候崩溃”。

DAIR 在 3 月份的公开信之后首次发表了另一份回应，并于周二再次发表。该组织认为：“所谓的人工智能带来的危害是真实存在的，是部署自动化系统的个人和公司行为的结果。监管工作应侧重于透明度、问责制和防止剥削性劳工行为。”

然而，亨德里克斯认为，“仅仅优先考虑当前的危害是鲁莽的，同样，忽视这些危害也是鲁莽的。”亨德里克斯将这一刻比作原子科学家警告世界他们所创造的技术，然后引用罗伯特·奥本海默的话，“我们知道世界将不再一样。”

[相关：OpenAI 最新的 ChatGPT 更新仍然可以传播阴谋论。]

媒体和技术理论家道格拉斯·拉什科夫在周二发表的一篇文章中写道：“他们本质上是在说‘阻止我！’”。他补充说，“炒作、恶意、营销和偏执”的结合正在助长人工智能的报道，并隐藏了该技术非常真实、明显的问题，而公司则试图巩固其对该行业的控制。“这只是一种虚张声势，”他写道，“对不起，但我就是不相信。 ”

在另一封发给PopSci 的电子邮件中，拉什科夫总结了他的想法，“如果我必须用相对简短的语气来引用他们的声明，我会说：他们大多是好心。“