一通深度伪造的“乔·拜登”自动电话告诉选民在初选期间待在家里

据报道，人工智能声音克隆技术已经在 2024 年大选前搅乱局势。根据新罕布什尔州总检察长办公室周一发表的声明，上周末部署的自动拨号活动模仿了总统乔·拜登的声音，敦促接收者不要在该州 1 月 23 日的总统初选中投票。

“本周二的投票只会让共和党人再次选举唐纳德·特朗普，”人工智能生成的拜登在电话中告诉居民。“你的投票会在 11 月产生影响，而不是本周二。”

新罕布什尔州民主党前主席凯西·沙利文 (Kathy Sullivan) 在NBC 新闻的初步独家报道中表示，目前尚不清楚这场虚假宣传活动的策划者，但“显然是有人想伤害乔·拜登”。

[相关： Deepfake 音频已经能将近 25% 的时间欺骗人们。]

日益严重的问题

人工智能生成的内容（包括深度伪造的音频、视频和图像）越来越受到虚假信息专家的关注。多份报告警告称，随着 2024 年总统大选的加剧，当今的媒体、互联网和社交环境尚未准备好应对可能即将出现的大量伪造“假新闻”内容。英国伦敦大学学院研究人员最近进行的一项研究表明，人工智能生成的音频可以欺骗多达四分之一的听众。上传到 YouTube 的 1,600 多个视频以泰勒·斯威夫特和史蒂夫·哈维等深度伪造的名人为特色，兜售“医疗卡”计划和其他骗局，整个过程总共获得了超过 1.95 亿次观看。但与人工智能奥普拉的“免费赚钱”诡计不同，最新的声音克隆示例明确旨在影响美国的政治格局。

“这是对民主的可耻和不可接受的侮辱”

至于本周末的虚假信息宣传活动，假拜登谎称，在新罕布什尔州初选期间，全州范围内正在进行的以他的名字签名的宣传活动将损害总统的连任前景。自动拨号信息随后以与凯西·沙利文 (Kathy Sullivan) 相关的电话号码结尾，导致周日晚上出现大量电话，促使这位前新罕布什尔州民主党主席向州检察长办公室报告了这一情况。

州检察长办公室在周一的声明中警告称：“这些信息似乎是非法企图扰乱新罕布什尔州总统初选并压制新罕布什尔州选民。”该办公室敦促选民不要理会这些信息，并明确表示：“在新罕布什尔州总统初选中投票并不妨碍选民在 11 月的大选中额外投票。”

[相关：警惕在 YouTube 上兜售虚假“免费资金”的人工智能名人克隆人。]

前总统特朗普竞选团队的代表否认与自动拨号电话诈骗有任何关联。与此同时，正在与拜登争夺民主党提名的明尼苏达州众议员迪安·菲利普斯 (Dean Phillips) 的发言人称，这一诈骗“令人极为担忧”。

菲利普斯竞选团队代表凯蒂·多兰 (Katie Dolan) 告诉NBC 新闻：“任何阻碍选民投票的行为都是可耻的，是对民主的不可接受的侮辱。”“利用人工智能操纵选民的可能性令人深感不安。”

聊天机器人替身政客

然而，尽管有警告称，至少有一些菲利普斯的支持者正在接受其他人工智能工具策略。上周晚些时候， 《华盛顿邮报》指出，由亲菲利普斯的超级政治行动委员会创建的聊天机器人 Dean.Bot 已从 OpenAI 最近推出的在线商店中移除，原因是“故意违反我们的 API 使用政策，禁止政治竞选”。

尽管受到的惩罚并不严重，但菲利普斯仍然是硅谷一些顶级人物的最爱。Dean.Bot 背后的超级政治行动委员会 We Deserve Better 是由 OpenAI 联合创始人、最近被解雇后又被重新聘用的首席执行官山姆·奥特曼 (Sam Altman) 的前幕僚长共同创立的。奥特曼本人曾与菲利普斯会面，尽管他尚未支持或正式向这位国会议员的竞选活动捐款。