美国立法者称人工智能永远不应该能够发射核弹

上周，众议员 Ted Lieu (D-CA) 与参议员 Edward Markey (D-MA) 和众多其他两党共同提案人共同提出了《阻止自主人工智能发射核弹法案》。该法案的目标就像它的名字一样直截了当：确保人工智能永远不会对美国核战略拥有最终决定权。

“尽管我们都在努力应对人工智能加速发展的速度，但人工智能的未来及其在社会中的作用仍不明朗。作为国会议员，我们的职责是负责任地预见未来，保护子孙后代免受潜在的灾难性后果，”刘议员在该法案的公告中表示，并补充道，“在发射核武器方面，人工智能永远无法取代人类的判断。”

他并不是唯一一个这么认为的人——哈佛法学院国际人权诊所共同撰写的 2021 年人权观察报告指出，“机器人缺乏人道对待人类所必需的同情心、同理心、怜悯和判断力，它们无法理解人类生命的内在价值。”

[相关：这款人工智能脑部扫描仪可以解释你的想法。]

一旦获得通过，该法案将合法化国防部《2022 年核态势评估》中现有的程序，该评估指出“在所有情况下，美国都将保持人员‘知情’，以便采取一切关键行动，告知和执行总统启动和终止使用核武器的决定”。此外，根据该法案的公告，国防部表示，任何联邦资金都不能用于在没有“有意义的人为控制”的情况下通过自动化系统发射核弹。

这项拟议立法的出台正值生成式人工智能（包括 ChatGPT 等聊天机器人）的力量日益成为公众讨论的一部分之时。但刘云并没有忽视“有趣的聊天机器人反应”和“对人类的潜在生存威胁”之间的超现实范围。他告诉PopSci ，他当然从未想过他的公民责任会包括制定立法来避免天网情景。

作为一名自称“正在康复中的计算机科学专业学生”，刘说他对人工智能程序现在所能实现的功能感到惊讶。“语音识别现在相当神奇。面部识别现在也相当神奇，尽管对于肤色较深的人来说，识别不太准确，”他指的是长期记录的算法偏见模式。

然而，自从去年 OpenAI 的 GPT-4 等生成式人工智能程序发布以来，刘云飞就开始意识到其可能带来的危害。

[相关： “人工智能教父”离开谷歌，公开谈论迅速崛起的技术的危险。]

“它正在创建信息并预测情景，”他谈到现有技术时说道。“这引发了不同的担忧，包括我的观点，即人工智能无论变得多么聪明，都不应该对核武器进行操作控制。”

刘认为，开始讨论人工智能监管至关重要，以减少三大后果：第一，虚假信息和其他“对社会有害”内容的泛滥。第二是控制人工智能，虽然它不会对人类的生存构成威胁，但“仍然可以直接杀死你”。他提到了 2022 年 11 月旧金山发生的多车相撞事故，该事故造成多人受伤，据称是由一辆特斯拉汽车在其备受争议的自动驾驶模式下造成的。

他说：“当你的手机出现故障时，它不会以每小时 50 英里的速度行驶。”

最后，刘云说，“人工智能确实可以摧毁世界”。他认为，《阻止自主人工智能发射核弹法案》至少在某种程度上可以提供帮助。本质上，如果该法案成为法律，人工智能系统仍然可以提供有关核事件的分析和战略建议，但最终决定权将牢牢掌握在人类手中。

[相关：战术核武器的简短而可怕的历史。]

展望未来，刘表示，由于国会“没有足够的带宽或能力来监管每个应用中的人工智能”，因此需要采取更严格的监管方法来处理人工智能问题。他愿意接受由联邦机构商定的一套人工智能风险标准，或者可能成立一个专门负责生成和未来高级人工智能的独立机构。周四，拜登政府公布了向旨在监测和监管人工智能发展的新研究中心提供 1.4 亿美元资金的计划。

当被问及是否担心社会面临新的“人工智能军备竞赛”时，刘承认“肯定存在这种可能性”，但他指出，目前存在核条约。“是的，存在核武器军备竞赛，但目前还不是全面军备竞赛。因此，不进行全面的人工智能军备竞赛也是有可能的，”刘说。

“各国都在关注这一问题，希望他们能够齐心协力，共同商定‘有些事情我们不会让人工智能去做。’”