定义人工智能的真正含义

当我们谈论人工智能（AI）时——我们最近做了很多，包括我在责任和监管问题对话中的概述——我们实际上是什么意思？

人工智能专家和哲学家们正在努力研究这个问题。但尽快为人工智能下一个可用的定义对于监管和治理至关重要，因为没有定义，法律和政策根本无法发挥作用。

这一定义问题出现在所有监管环境中，从确保在产品广告中真实使用“AI”一词，到确定如何在战争法下对待下一代自动化武器系统（AWS）。

确实，我们最终可能需要不止一个定义（正如“商誉”在不同语境中有不同的含义）。但我们必须从某个地方开始，因此，在目前缺乏监管定义的情况下，让我们开始行动吧。

定义术语：人工智能和智能

出于监管目的，“人工”一词希望是最简单的意思。它可以简单地表示“不存在于自然界或不以相同形式存在于自然界”。在这里，“或”后面给出的替代词允许未来使用经过修饰的生物材料。

那么，这就留下了更棘手的“智力”问题。

从哲学角度来看，“智能”是一个巨大的雷区，尤其是当它包括“意识”、“思想”、“自由意志”和“心灵”中的一个或多个时。尽管可以追溯到至少亚里士多德时代，但关于这四大概念的深刻争论仍然在我们周围回荡。

2014年，为了推动事态发展，俄罗斯科技界亿万富翁德米特里·沃尔科夫 (Dmitry Volkov) 在一艘游艇上召开了一次峰会，与会的都是丹尼尔·丹尼特 (Daniel Dennett)、保罗·丘奇兰德 (Paul Churchland) 和大卫·查尔默斯 (David Chalmers) 等顶尖哲学家。

或许并不令人意外的是，各方并未达成共识，查尔默斯认为，下个世纪内也不太可能达成共识。

不过，幸运的是，对于未来的监管者来说，至少暂时可以避免哲学争论。让我们退一步思考一下，监管者的直接利益是什么？

我想说这是人工智能科学家和工程师的工作成果，以及由这些产品可能产生的任何公共福利或安全风险。

因此，从逻辑上讲，大多数人工智能科学家和工程师对待“智能”的方式才是最令人关注的。

情报和人工智能社区

直到 21 世纪中期，人工智能界一直倾向于将人工智能与人类智能进行对比，而这种做法只是将责任推卸给心理学家。

2007 年 11 月，斯坦福大学人工智能先驱约翰·麦卡锡（John McCarthy）讨论了这个问题：

部分是由于这个困难，许多研究精力从通用人工智能（AGI）转向狭义人工智能（ANI）。

但就在麦卡锡写下这些之后，一个通用的“独立于人类”的“智能”定义出现了。除了将通用算法实体“AIXI”形式化之外，Marcus Hutter（现就职于澳大利亚国立大学）和 Shane Legg（现就职于谷歌 DeepMind）提出了以下非正式定义，以取代他们之前编目的定义：

这一非正式定义标示了监管机构可以管理的事物，建立并应用实体在一个或多个环境（按定义）中的客观能力衡量标准（按定义）。核心重点是实现目标，这也巧妙地涵盖了其他与情报相关的概念，例如学习、规划和解决问题。

但仍存在许多障碍。

首先，由于 AIXI 本身的内在限制，非正式定义可能无法直接用于监管目的。Hutter 经常强调的一个限制是，由于时间和空间的限制，AIXI 只能在计算机中“近似”计算。

另一个限制是 AIXI 缺乏“自我模型”（但最近提出的称为“反射型 AIXI”的变体可能会改变这一点）。

其次，出于测试和认证目的，监管机构必须能够将智力视为可分为许多子能力（如运动、交流等）的东西。但这可能与基于一般智力的任何定义相悖。

从消费者的角度来看，这最终都是一个在系统定义为显示实际人工智能与仅仅是另一个可编程盒子之间划清界限的问题。

如果我们能够克服所有障碍，就不会有时间心满意足。即使没有四大会计师事务所，日益强大和无处不在的人工智能系统也将在未来几十年对社会产生巨大影响，尤其是对未来的就业。

但如果四大哲学家真的（似乎）出现在人工智能系统中，我们可以有把握地说，我们需要的不仅仅是一艘载满哲学家的游艇，而是一整艘帆船。

Gary Lea 是澳大利亚国立大学人工智能监管客座研究员

本文最初发表于 The Conversation。阅读原文。