“历史”人工智能聊天机器人不仅不准确，而且很危险

在这份长长的令人反感的想法清单中，禁止与人工智能希特勒进行“有趣且互动”的对话可能不是最令人反感的。但可以说它名列前茅。

然而，无数人已经通过聊天机器人应用程序 Historical Figures 尝试了它。该项目目前仍在苹果应用商店中提供，上周因其详尽且经常引起争议的人工智能个人资料列表而走红，其中包括甘地、爱因斯坦、戴安娜王妃和查尔斯·曼森。尽管它自称是一款适合 9 岁以上任何人的教育应用程序（截至撰写本文时，该应用程序在该类别中排名第 76 位），但批评者很快嘲笑这个想法充其量只是一个仓促、经常不准确的噱头，最糟糕的是，它只是对蓬勃发展、已经充满争议的 ChatGPT 技术的玩世不恭的利用。

[相关：新报告称，ChatGPT 的 AI 内容过滤器严重损害了员工的心理健康。]

就连开发这款应用的 25 岁亚马逊软件开发工程师 Sidhant Chaddha 上周也向《滚石》杂志承认，ChatGPT 的自信和不准确性对用户来说是一个“危险的组合”，他们可能会误以为它散布的所谓事实是有来源的。该应用主页上的一则注释写道：“这款应用使用有限的数据来最好地猜测对话可能是什么样的。”Chaddha 没有回应PopSci的置评请求。

一些历史学家强烈赞同这种观点，其中包括普渡大学技术史专业助理教授 Ekaterina Babintseva。对她来说，在历史教育中使用 ChatGPT 的尝试不仅毫无趣味，甚至可能造成极大的危害。

“当 ChatGPT 被创建时，我的第一个想法是，‘哦，这真的很危险，’”她在 Zoom 上回忆道。对 Babintseva 来说，危险并不在于对学术抄袭的担忧，而在于人工智能对社会和文化的更大影响。“ChatGPT 只是在消除信息批判性参与能力和理解知识构建能力的另一个层面上。”她还指出，目前私营公司在开发主要的人工智能时，其本质并不明确，因为这些公司只关心如何牢牢控制自己的知识产权，从而获得利润。

[相关：首席执行官已经在使用 ChatGPT 来撰写电子邮件。]

“ChatGPT 甚至没有解释这些知识来自哪里。它隐藏了信息的来源，”她说。

值得注意的是，ChatGPT 的开发商 OpenAI（以及 Historical Figures 等第三方衍生产品）已将其大部分研究和基础设计开放给任何人查看。然而，要详细了解它用来训练 AI 理解能力的庞大互联网文本存储库则要复杂得多。即使要求 ChatGPT 引用其来源，也无法提供比它“可能”引用的“公开来源”（如维基百科）更具体的信息。

因此，像查达的“历史人物”应用这样的程序提供了歪曲的、有时完全错误的叙述，同时也无法解释其叙述是如何构建的。相比之下，历史学术论文和日常新闻报道充斥着来源引文、脚注和纸质记录。“历史是存在的。没有单一的叙述，”巴宾采娃说。“单一的叙述只存在于极权主义国家，因为他们真正投入的是制作一种叙述，并削弱那些想要制作与批准的政党路线不同的叙述的人的叙述。”

情况并非一直如此。直到 20 世纪 90 年代末，人工智能研究都以“可解释的人工智能”为中心，创造者们专注于研究人类专家（如心理学家、遗传学家和医生）如何做出决策。然而，到了 20 世纪 90 年代末，人工智能开发者开始抛弃这一理念，认为这与他们的实际目标基本无关。相反，他们选择研究神经网络，而神经网络得出的结论往往连其设计者自己都无法完全解释。

[相关：青少年心理健康服务在尝试人工智能聊天机器人建议后面临强烈反对。]

Babintseva 和其他科学技术研究学者呼吁回归可解释的人工智能模型，至少对于对人类生活和行为有实际影响的系统来说是这样。她说，人工智能应该帮助研究和人类思维，而不是取代它，并希望美国国家科学基金会等组织推动有利于这一方向研究的奖学金和资助计划。

在此之前，像 Historical Figures 这样的应用程序可能会继续涌现，它们都基于模糊的逻辑和不明确的来源，同时将自己宣传为新的创新教育替代品。更糟糕的是，像 ChatGPT 这样的程序将继续依赖人类的劳动力来产生知识基础，而从不承认这些声音。“它将这些知识表现为某种独特、不可思议的人工智能声音，”Babintseva 说，而不是多种复杂的人类经验和理解的产物。

[相关：这个人工智能可以验证你是否真的大笑。]

最后，专家警告称，历史人物应被视为最新的数字客厅把戏。道格拉斯·拉什科夫是一位杰出的未来学家，也是《富豪的生存：科技亿万富翁的逃避幻想》一书的最新作者，他在给 PopSci 的一封电子邮件中试图为这款应用找到一线希望。“好吧，我宁愿用人工智能……在死人身上试验想法，而不是取代活人。至少这是我们无法做到的。但角色的选择似乎更多是为了制造新闻，而不是真正让人们直接体验希特勒，”他写道。

“而且，看到您通过电子邮件向我征求评论，看来这个花招已经成功了！”