特朗普分享人工智能修改的安德森·库珀的假视频

上周，在 CNN 与唐纳德·特朗普的市政厅会议结束后不久，这位前总统的儿子在推特上发布了一段明显经过处理的 9 秒视频，其中人工智能模仿了 CNN 主播安德森·库珀的声音，对前总统在市政厅会议中的表现进行了粗俗的赞美。“我听说这是真的……”，小唐纳德·特朗普写道。“这似乎是真的，而且对于 CNN 来说，它出奇地诚实和准确……但现在谁知道呢。”

尽管推特社区将该视频标记为假的，但一位评论者回复道：“不管真假，它都是事实。”

两天后，特朗普将同一段修改过的视频上传到了他支持者喜欢的替代社交媒体平台 Truth Social。尽管 Twitter 和 Truth Social 上的许多回复似乎表明用户基本上都知道这个拙劣的模仿，但专家警告称，特朗普最近多次接受人工智能生成的内容可能会在明年总统竞选中引发混乱。

[相关： “这个虚构的新闻节目完全由人工智能和深度伪造制作” ]

加州州立理工大学伦理与新兴科学组主任、哲学教授帕特里克·林 (Patrick Lin) 告诉 PopSci：“为了利益和政治目的而操纵现实不仅会破坏健康的社会，而且还表明特朗普对自己的支持者极其不尊重，更不用说其他人了。”“他一边宣传这么多假新闻，一边指责那些报道真实事实的人也这么做，这真是太讽刺了，”林说。

而且没有迹象表明 AI 内容背后的势头会放缓——据彭博社周三报道，多个深度伪造制作工作室在过去一年里共筹集了数十亿美元的投资。

特朗普发布了一张自己跪下祈祷的人工智能生成的图片后不到一个月，共和党全国委员会就发布了一则 30 秒的广告，其中包含人工智能生成的如果拜登总统连任美国将会出现的反乌托邦图像。

网络安全公司 ZeroFox 的情报副总裁 AJ Nash 上周末在谈到音频和视频深度伪造的兴起时告诉美联社：“我们对此毫无准备。”“当你能大规模地做到这一点，并在社交平台上传播它时，它将产生重大影响。”

林认为，前总统传播人工智能编辑的视频，即使是开玩笑，也值得担忧，他们说，“应该敲响警钟，我们现在需要对人工智能进行监管”。在他看来，最近备受关注的报道集中在人工智能对人类的理论上的生存威胁上，分散了人们对当今生成人工智能的“明显和现实的危险”的注意力，这些危险包括“从歧视到虚假信息”。

更正 05/19/23：本文的先前版本错误地将 AJ Nash 的评论归因于 PBS 采访，而不是 AP News 采访。