比尔盖茨害怕人工智能，但人工智能研究人员更了解

女士们，先生们，请欢迎比尔·盖茨加入2015年人工智能恐慌。

在上周三 Reddit 的 AMA（问我任何问题）环节中，一位名为 beastcoin 的用户向微软创始人提出了一个相当精彩的问题。“您认为机器超级智能将带来多大的生存威胁？您是否认为对所有互联网活动进行全面的端到端加密可以保护我们免受这种威胁（例如，机器无法知道的越多越好）？”

遗憾的是，盖茨没有回答问题的后半部分，而是写道：

对于机器人恐惧症患者来说，反人工智能梦之队已近乎完整。埃隆·马斯克和比尔·盖茨有钱有势，而传奇宇宙学家斯蒂芬·霍金——他广为人知的恐惧包括邪恶的机器人和掠食性外星人——则带来了他无与伦比的智慧。他们唯一缺少的就是实力，缺少一个愿意在与杀手机器的先发制人的战争中亲自动手的人。

事实上，这些新生的人工智能复仇者真正需要的是一种更加牵强的东西：任何迹象表明人工智能超级智能是一种切实的威胁，甚至是一项严肃的研究重点。

不过，也许我错了，或者我太执着于对抗围绕人工智能研究日益高涨的狂热，以至于看不到当今代码中萌生的怪异感知的曙光。也许盖茨、霍金和马斯克都是非常聪明的人，他们知道一些我不知道的事情。以下是一些著名的人工智能研究人员对超级智能的看法。

我最初联系这些人是为了即将在《大众科学》杂志上发表的一篇故事，但如果说有哪个时候需要了解人工智能的背景，那就是现在。本着这种精神，我对我的问题进行了全面回答，几乎没有编辑或挑选。所以下面的引言是故意设计的。我还应该解释一下，我选择这些研究人员并不是基于他们之前发表的观点，作为一种确认偏差的花生画廊，而是因为他们的研究历史和与机器学习和深度学习相关的专业经验。当人们讨论神经网络、认知计算和人工智能系统最终达到或超越人类智能的一般概念时，他们通常谈论的是机器学习和深度学习。如果有人知道现在是否该恐慌，那就是这些研究人员。

“人工智能不是突然或偶然产生的。”

以下是人工智能初创公司 Vicarious 联合创始人 Dileep George 对超级智能风险的看法：

Vicarious 的观点之所以重要，不仅是因为该公司目前在基于学习的人工智能领域开展了相关工作，还因为埃隆·马斯克 (Elon Musk) 向大家展示了这家初创公司，以此来窥探幕后情况。马斯克告诉 CNBC，他投资 Vicarious，“并不是从真正试图获得任何投资回报的角度出发。我只是想关注人工智能的发展。”他还写道，“领先的人工智能公司已经采取了重大措施来确保安全。他们认识到了危险，但相信他们可以塑造和控制数字超级智能，并防止坏人逃入互联网。这还有待观察……”

因此我问 Vicarious 他们投入了多少时间和资源来防止超级智能的产生。这是 Vicarious 另一位联合创始人 D. Scott Phoenix 的回答：

Vicarious 并未对超级智能做任何事。这根本不在他们的考虑范围内。那么马斯克指的是哪些公司？这些公司中是否有人真的担心，正如他所说，坏的超级智能会“逃入互联网”？换句话说，当恶魔并不真实存在时，你如何为恶魔（马斯克对人工智能的描述，不是我的）建造监狱？

Facebook 人工智能研究主管、纽约大学数据科学中心创始主任 Yann LeCun 对企业是否在积极阻止人工智能失控的问题做出了如下回答：

LeCun 还谈到了那些试图将超级智能定义为不可避免的人的主要困惑之一：智能和自主之间的区别。

这是一个至关重要的区别，也是马斯克、霍金和盖茨所引发的恐慌的核心。人工智能可以很聪明但无知觉，可以很有能力但无创造力。更重要的是，人工智能并不是沿着某种数字版的生物进化轨迹奔跑，竞争和繁殖，直到某种有益的突变自发引发失控的超级智能。人工智能不是这样运作的。

“如果我们能在不久的将来制造出拥有老鼠般智能的机器，我们会感到困惑，但我们距离这一目标还很遥远。”

搜索算法提供结果的速度比人类快得多，但永远不会突然产生道德准则，也不会对你的色情品味指手画脚。只有科幻小说作家或非计算机科学家才能想象到一般人类智能的难题突然奇迹般地自行解决。如果你相信一个世俗奇迹，为什么不以自我组装超级智能的形式再加一个呢？

LeCun 确实为马斯克辩护，称他将人工智能比作核武器的言论“既夸张又被误解”。

对此话题最有发言权的研究人员是上一条回复中提到的那位。Yoshua Bengio 是蒙特利尔大学机器学习实验室的负责人，被广泛认为是深度学习子领域的先驱研究人员之一（与 LeCun 一起）。以下是他对 AI 研究是否本质上危险的问题的回答：

我还问过超级智能是否不可避免。Bengio 的回答是：

对于马斯克提出的“人工智能可能比核武器更危险”、需要谨慎对待的观点，本吉奥只谈了当前，并没有否定未来的未知。

这些回应的共同点是时间。当你与人工智能研究人员交谈时——再次强调，真正的人工智能研究人员，那些努力让系统能够正常工作，更不用说让系统工作得非常好的人——他们并不担心超级智能会悄悄靠近他们，无论是现在还是将来。与马斯克似乎有意讲述的恐怖故事相反，人工智能研究人员并没有疯狂地安装防火墙召唤室和自毁倒计时。充其量，这些科学家正在思考超级智能的问题。这不是一个非此即彼的情况。恐慌和谨慎之间的区别只是程度问题。如果最熟悉人工智能研究现状的人将超级智能视为低优先级的研究课题，那么为什么我们要让任何人——是的，甚至是比尔盖茨——的随机、不受支持的评论说服我们改变这一观点呢？