甚至人工智能科学家也害怕超人类智能的想法

1993 年，计算机科学家兼科幻小说作家 Vernor Vinge 预测，在三十年内，我们将拥有创造出超越人类的智能的技术。“不久之后，人类时代将终结，”Vinge 说道。

事实上，30 年后，人工智能创造的实体能够超越（至少与人类能力相当）的想法已不再是投机者和作家的专利。人工智能研究人员和技术投资者正在寻求所谓的通用人工智能 (AGI)：一种能够在各种智力任务中达到人类水平的实体。一些研究人员现在认为，如果人类能够成功创造出通用人工智能，“人类时代的终结”将不再是一个模糊而遥远的可能性。

[相关：不，人工智能聊天机器人仍然没有感知]

未来学家经常称赞文奇推广了许多评论家所谓的“奇点”。他相信技术进步最终会催生出一个能力超越人类大脑的实体。它的引入将使世界变得面目全非——用文奇自己的话来说，这是一种“堪比地球上人类生命的兴起的变化”。

也许将奇点想象成一个强大的人工智能是最容易的，但文奇却用其他方式设想了它。生物技术或电子增强技术可能会使人类大脑变得更快、更聪明，比如将人类思维的直觉和创造力与计算机的处理器和信息访问结合起来，实现超人般的壮举。或者举一个更平凡的例子，想想普通智能手机用户拥有的超能力，足以让 1993 年的时空旅行者惊叹不已。

路易斯维尔大学计算机科学家罗曼·亚姆波斯基 (Roman Yampolskiy) 表示：“关键在于，一旦机器接管了科学和工程流程，其进步速度就会如此之快，你无法跟上。”

Yampolskiy 已经在自己的领域看到了这种未来的缩影，人工智能研究人员正在以极快的速度发表大量论文。“作为专家，你不再知道最先进的技术是什么，”他说。“它发展得太快了。”

什么是超人智能？

虽然文奇没有提出任何一条通往奇点的路径，但一些专家认为 AGI 是通过计算机科学实现奇点的关键。其他人则认为该术语是一个毫无意义的流行词。一般来说，它描述的是一种在任何智力任务中都能与人类表现相匹配的系统。

如果我们开发出通用人工智能，那么未来创造超人智能的大门就打开了。当应用于研究时，这种智能可以以惊人的速度产生自己的新发现和新技术。例如，想象一个比任何现实世界的计算机科学家都更好的假想人工智能系统。现在，想象一下这个系统反过来负责设计更好的人工智能系统。一些研究人员认为，结果可能是人工智能能力的指数级加速。

[相关：工程师终于窥视深度神经网络]

这可能会带来问题，因为我们并不完全理解为什么许多人工智能系统会以它们的方式行事——这个问题可能永远不会消失。Yampolskiy 的研究表明，我们永远无法可靠地预测 AGI 能够做什么。在 Yampolskiy 看来，如果没有这种能力，我们将无法可靠地控制它。他说，后果可能是灾难性的。

但预测未来很难，世界各地的人工智能研究人员在这个问题上意见远未统一。2022 年中，智库 AI Impact 调查了 738 名研究人员对奇点式情景发生可能性的看法。他们发现，33% 的人回答说这种命运“可能”或“很有可能”，而 47% 的人回答说“不太可能”或“不太可能”。

加州大学欧文分校的计算机科学家萨米尔·辛格 (Sameer Singh) 表示，由于缺乏对 AGI 和奇点的统一定义，因此很难对这些概念进行实证检验。“这些都是值得思考的有趣学术问题，”他解释道。“但从影响的角度来看，我认为社会上可能发生的事情远不止这一门槛。”

事实上，辛格担心，专注于可能的未来会掩盖人工智能的失败或愚蠢行为已经产生的真正影响。“当我听说资源流向 AGI 以及这些长期影响时，我觉得这会转移真正重要的问题，”他说。已经确定的是，这些模型可以产生种族主义、性别歧视和事实错误的结果。从法律角度来看，人工智能生成的内容经常与版权法和数据隐私法相冲突。一些分析师已经开始指责人工智能煽动裁员和取代工作岗位。

“谈论‘我们已经实现了这个科幻目标’比谈论事情的实际情况更令人兴奋，”辛格说。“这就是我的现状，我觉得我合作的很多社区成员也都处于这种状态。”

我们需要通用人工智能吗？

对人工智能未来的反应反映了社区在构建、微调、扩展和监控模型方面存在的诸多分歧之一。计算机科学先驱杰弗里·辛顿 (Geoffrey Hinton) 和约书亚·本吉奥 (Yoshua Bengio) 最近都表达了对他们认为正在失控的领域的遗憾和迷失方向。一些研究人员呼吁暂停开发比 GPT-4 更强大的人工智能系统六个月。

亚姆波斯基支持暂停的呼吁，但他认为半年、一年、两年或任何时间都不够。他的观点十分明确：“获胜的唯一方法就是不这么做。”