为什么人工智能不会消灭人类

埃隆·马斯克非常害怕人工智能。这位 SpaceX 和特斯拉汽车公司的创始人预测，人工智能很快就会“比核武器更危险”，最近他捐赠了 1000 万美元用于研究，以“保持人工智能的有益性”。斯蒂芬·霍金也曾警告说：“人工智能的全面发展可能意味着人类的灭亡。”

马斯克和霍金并不惧怕 Siri 等普通智能手机助手。他们惧怕的是超级智能——即人工智能超越人类（然后奴役和屠杀人类）。

但如果人工智能末日即将来临，硅谷也不会气馁。截至 1 月，有多达 170 家初创公司正在积极开发人工智能。Facebook 招募了该领域一些最聪明的人才，组建了一个新的人工智能研究实验室，谷歌去年斥资 4 亿美元收购了人工智能公司 DeepMind。那么问题来了：软件公司和风险投资家是在自找麻烦吗？还是人类最杰出的极客是末日的假先知？

当然，为新兴的人工智能行业制定标准是必要的，而且对于建立自动驾驶汽车的道德规范等将变得越来越重要。但即将到来的机器人起义并不构成威胁。现实是，人工智能的研究和开发极其复杂。即使是像马斯克和霍金这样的知识分子也不一定对此有扎实的理解。因此，他们陷入了似是而非的假设，这些假设更多地来自科幻小说而不是现实世界。

人类最杰出的极客是世界末日的假先知吗？

在那些真正从事人工智能工作的人中，很少有人特别担心失控的超级智能。著名人工智能公司 Vicarious 的联合创始人 Dileep George 表示：“整个人工智能社区距离开发出任何可能引起公众担忧的东西还有很长的路要走。”Facebook 人工智能研究主管兼纽约大学数据研究中心主任 Yann LeCun 强调，创造人类级别的人工智能是一个困难的目标，甚至是无望的，这使得超级智能在可预见的未来毫无意义。

然而，人工智能研究人员并非毫无忧虑。蒙特利尔大学机器学习实验室负责人 Yoshua Bengio 表示：“我所在领域的人们真正担心的是正在发生的恐慌宣传。” Bengio 表示，除了混淆公众并可能让投资者和学生望而却步之外，“还有一些疯子相信这些对人类极其危险的说法。他们可能会把我们这样的人当作目标。”换句话说，与人工智能相关的最紧迫威胁可能既不是人工的也不是智能的。因此，人工智能社区最紧迫的任务是解决品牌挑战，而不是技术挑战。乔治说：“作为研究人员，我们有义务教育公众了解好莱坞和现实之间的区别。”

本文最初发表于2015年3月的《大众科学》杂志，标题为“人工智能不会消灭人类”。