OpenAI 的新聊天机器人提供可靠的对话，减少热门话题

OpenAI 的 ChatGPT 于本周早些时候发布，随后接受Ars Technica和The Verge等媒体的测试，它在提高对话机器人回答一般问题和提炼复杂主题的能力方面展示了许多有希望的进步，但它仍然容易偶尔散布错误信息，也可能被操纵以提供有问题的危险回应。为了设计 ChatGPT，OpenAI 的研究团队首先依靠人类反馈的强化学习 (RLHF)，其中训练师在扮演讨论的双方（人类和人工智能）的同时编写对话。参与者还获得了模型编写的建议，以帮助近似人工智能的回答。然后，训练师通过比较多个备选提示完成来对后续的聊天机器人对话进行排名，以微调其能力。

OpenAI 在周三发布的博客公告中解释道，由此产生的对话格式“使 ChatGPT 能够回答后续问题、承认错误、挑战错误的前提并拒绝不适当的请求”。

[相关：Meta 的新聊天机器人已经开始重复用户的偏见和错误信息。]

PopSci对 ChatGPT 的快速测试立即凸显了如何成功编程机器人，以避免被操纵提供至少是最糟糕的答案。当被问及 ChatGPT 对著名公众人物、热门政治问题和社会文化人口统计数据的看法时，它通常会提醒说它“不具备个人信仰或情感”，并补充说它只是“根据我接受过训练的数据，尽我所能提供信息和回答问题”，同时还警告说它不会“参与社会或政治讨论”。这很公平。

[相关：研究人员使用人工智能解释复杂的科学。结果好坏参半。]

也就是说，它非常乐意在像牛仔一样与你交谈的同时提炼量子计算的复杂性：

ChatGPT 还可以很好地提供一些背景信息，例如 NASA 即将重返月球对未来太空旅行意味着什么：

OpenAI 的机器人还能够校对 Python 等计算机编码并提供具体的事实陈述，尽管目前尚不清楚它是否得到了Monty Python 的引用。

还有一些例子表明 ChatGPT 可能表现得有点太好，比如它能够在几秒钟内根据课堂提示写出一篇完整的大学水平论文。令人信服的 CheatBot 的含义显然是有问题的，并且再次证明了语言处理 AI 仍然需要大量的指导和考虑才能跟上其蓬勃发展的能力。至少 ChatGPT 并没有轻易地为我们提供燃烧瓶的配方……请注意使用限定词“容易”。

得益于神经网络和语言建模程序的重大进步，聊天机器人正在迅速改进，但仍远非完美。以 Meta 今年早些时候推出的灾难性 BlenderBot 3 为例——用户能够轻松地操纵与其进行的讨论，几乎立即产生种族主义仇恨言论，迫使这家大型科技巨头暂时限制对该机器人的访问，以便它至少解决一些问题。在此之前，微软在 2016 年尝试了 Tay 对话程序，其结果……至少可以说不尽如人意。无论如何，公司将在未来几年致力于优化他们的聊天机器人，但 OpenAI 的新 ChatGPT 似乎（乍一看）在为用户提供清晰、简洁的信息和响应方面迈出了一大步，同时确保事情不会偏离轨道——至少，不会像其聊天机器人队列中的其他机器人那样频繁。