不，人工智能聊天机器人（仍然）没有感知能力

自从测试人员上周开始与微软支持 ChatGPT 的 Bing AI 助手互动以来，他们收到了一些超现实的回应。但聊天机器人并没有真正发疯。它不想破解一切。它并没有爱上你。批评人士警告说，这种对聊天机器人所谓隐藏性格、议程和欲望的日益关注，助长了机器中并不存在的幽灵。更重要的是，专家警告说，生成式人工智能聊天机器人的持续拟人化会分散人们对这项发展中技术更严重、更直接的危险的注意力。

专注于极端主义和虚假信息的独立智库战略对话研究所的研究员贾里德·霍尔特 (Jared Holt) 表示：“我们从一些全球最大的新闻机构那里得到的信息，就像在高速公路上放慢车速，以便更仔细地观察一场事故。”在霍尔特看来，微软和谷歌等公司尽管其程序存在严重缺陷，但仍在夸大其产品的潜力。

[相关：人工智能能够进行对话并不意味着它很聪明。]

在谷歌的 Bard 和微软的 Bing AI 助手 ChatGPT 推出一周后，它们就被证明会产生难以理解且不准确的响应。这些问题本身就应该暂停产品发布，尤其是在一个已经充斥着错误信息和不可靠来源的在线生态系统中。

虽然人工编程的限制在技术上应该可以禁止聊天机器人生成仇恨内容，但它们很容易被绕过。“我这么说吧：如果一小撮无聊的 Reddit 用户能够想出如何让你的聊天机器人说出尖刻的言辞，那么这项技术可能还没有准备好进入我们生活的方方面面，”霍尔特说。

这个问题的一部分在于我们如何选择解读这项技术。Data & Society 研究总监 Jenna Burrell 告诉 PopSci：“在我们的注意力经济中，记者很容易认可这样一种观点，即这些工具背后可能存在一种包罗万象、用途广泛的智能。”正如 Burrell 在上周的一篇文章中所写，“当你想到 ChatGPT 时，不要想到莎士比亚，而要想到自动完成。从这个角度来看，ChatGPT 什么都不知道。”

[相关：人工智能广阔世界的简单指南。]

ChatGPT 和 Bard 根本无法培养个性——他们甚至不理解“个性”是什么，只知道它是从大量在线文本中提取的用于模式识别的一串字母。他们计算出他们认为句子中下一个最可能的单词，将其输入，然后重复下去。纽约大学坦顿分校计算机科学与工程系助理教授 Brendan Dolan-Gavitt 说，它更像是一台“统计学习机器”，而不是一位新笔友。“目前，我们真的没有任何迹象表明人工智能具有‘内在体验’或个性或类似的东西，”他说。

然而，Bing 令人信服的自我意识模仿可能会带来“一些危险”，有些人会因为误解其内部运作而产生情感依赖。去年，谷歌工程师 Blake Lemoine 的博客文章在网上疯传，获得了全国报道；它声称该公司的 LaMDA 生成文本模型（Bard 现在采用该模型）已经具有感知能力。这一指控立即引起了人工智能社区其他人的质疑，他们指出文本模型只是在模仿感知能力。但随着这种模仿能力的提高，Burrell 同意它“将继续让那些从这些回复中解读出机器意识、动机和情感的人感到困惑”。正因为如此，她认为聊天机器人不应被视为“人工智能”，而应被视为利用“词序列预测”提供类似人类回复的工具。

有意无意地将聊天机器人拟人化，不利于理解这些技术的能力和界限。聊天机器人是一种工具，建立在大量人类劳动资源之上。不可否认，它们在响应文本输入方面做得越来越好。然而，从向用户提供不准确的财务指导到就处理危险化学品给出危险建议，它们仍然存在令人不安的缺陷。

[相关：微软对人工智能搜索的看法在准确性方面存在困难。]

“这项技术应该受到严格审查，”霍尔特说。“销售这项技术的人声称它可以永远改变世界。对我来说，这已经是进行严格审查的充分理由了。”

Dolan-Gavitt 认为，Bing 最近的回应让读者想起科幻小说中的“流氓人工智能”情节，原因之一可能是 Bing 本身对这种比喻同样熟悉。“我认为，很大程度上可能是因为有很多科幻小说的例子可以训练 Bing，比如人工智能系统变得有意识，”他说。“这是一个非常常见的比喻，所以 Bing 有很多可以借鉴的地方。”

周四，OpenAI 的 ChatGPT 设计师发布了一篇博客文章，试图解释他们的流程和应对批评的计划。“有时我们会犯错。当我们犯错时，我们会从中吸取教训，并不断改进我们的模型和系统，”更新内容写道。“我们感谢 ChatGPT 用户社区以及广大公众对我们问责的警惕。”