警惕 AI 名人克隆人在 YouTube 上兜售虚假“免费资金”

网络骗子正在使用人工智能语音克隆技术，让史蒂夫·哈维和泰勒·斯威夫特等名人看起来像是在 YouTube 上鼓励粉丝陷入与医疗福利相关的骗局。404 Media 本周首次报道了这一趋势。这些只是骗子利用越来越容易获得的生成人工智能工具瞄准通常经济贫困的社区并冒充名人以快速获取经济利益的最新例子。

一位线人联系了 404 Media，他向该媒体指出 YouTube 上有超过 1,600 个视频，其中名人和非名人的声音被用来推动骗局。据报道，这些视频的观看次数已达 1.95 亿次，其中许多视频在撰写本文时仍然活跃。这些视频似乎违反了 YouTube 的几项政策，尤其是有关虚假陈述、垃圾邮件和欺骗行为的政策。YouTube 没有立即回应PopSci 的置评请求。

骗局是如何进行的？

骗子们试图通过使用名人的剪辑片段和用人工智能工具模仿名人自己声音的画外音来欺骗观众。史蒂夫·哈维、奥普拉、泰勒·斯威夫特、播客乔·罗根和喜剧演员凯文·哈特都使用了深度伪造的声音，似乎是为了宣传骗局。有些视频根本没有使用名人的深度伪造，而是似乎使用了一群反复出现的真人来讲述类似故事的不同版本。这些视频通常由 YouTube 帐户发布，其名称具有误导性，例如“USReliefGuide”、“ReliefConnection”和“Health Market Navigators”。

“几个月来我一直在告诉你们领取这 6,400 美元，”一位试图模仿《家庭问答》主持人史蒂夫哈维的深度伪造克隆人说道。“任何人都可以得到这笔钱，即使你没有工作！”仅此一段视频（截至撰写本文时仍在 YouTube 上）就已累计获得超过 1800 万次观看。

虽然诈骗的具体措辞因视频而异，但它们通常遵循一个基本模板。首先，深度伪造的名人或演员向观众发表讲话，提醒他们美国政府通过“健康消费卡”提供 6,400 美元的年底假期刺激支票。然后名人的声音说任何人都可以申请刺激计划，只要他们还没有加入医疗保险或医疗补助。然后通常会指示观众点击链接申请福利。与许多有效的骗局一样，该视频也试图让观众相信虚假交易不会持续太久，从而营造出一种紧迫感。

事实上，点击这些链接的受害者通常会被重定向到名为“secretsavingsusa.com”的 URL，而这些 URL 实际上与美国政府并无关联。PolitiFact 的记者拨打了其中一个网站上列出的注册号码，并与一名“身份不明的代理人”进行了交谈，后者询问了他们的收入、纳税申报状态和出生日期；所有这些敏感的个人数据都可能被用于身份欺诈。据报道，在某些情况下，诈骗者还会询问信用卡号。这种骗局似乎利用了人们对真正的政府健康税收抵免的混淆作为诱饵来吸引受害者。

确实存在许多政府计划和补贴来帮助有需要的人，但美国政府提供“免费资金”的通用说法通常是一个危险信号。降低与能够创造出令人信服的名人声音模仿的生成式人工智能技术相关的成本，可以使这些骗局更加令人信服。联邦贸易委员会 (FTC) 去年在一篇博客文章中警告了这种可能性，其中列举了一些欺诈者使用深度伪造和语音克隆进行敲诈勒索和金融欺诈等非法活动的简单例子。PLOS One去年进行的一项最新调查发现，深度伪造音频已经可以在近 25% 的时间内欺骗人类听众。

联邦贸易委员会拒绝对最近发生的一系列名人深度伪造骗局发表评论。

价格实惠、易于使用的人工智能技术引发名人深度伪造骗局的兴起

这不是第一起深度伪造名人骗局，而且几乎肯定也不会是最后一起。好莱坞传奇人物汤姆·汉克斯最近在 Instagram 上向粉丝们道歉，因为有人发现他的深度伪造克隆人正在宣传牙科计划骗局。不久之后，哥伦比亚广播公司主播盖尔·金表示，骗子们也在使用类似的深度伪造方法，让她看起来像是在代言减肥产品。最近，据报道，骗子们将流行歌星泰勒·斯威夫特的声音的人工智能克隆与她使用 Le Creuset 炊具的真实图像结合起来，试图说服观众报名参加厨具赠送活动。粉丝们从未收到闪亮的锅碗瓢盆。

立法者们正忙于起草新法律或澄清现有立法，试图解决日益严重的问题。《深度伪造问责法案》和《反伪造法案》等几项拟议法案将赋予个人更多权力来控制其肖像的数字形象。就在本周，由五名众议院议员组成的两党小组提出了《反人工智能欺诈法案》，该法案试图制定一个联邦框架来保护个人对其数字肖像的权利，重点是艺术家和表演者。不过，在国会迅速出台的一系列新人工智能立法中，这些法案通过的可能性有多大尚不清楚。

更新时间：2023 年 1 月 11 日上午 8:49： YouTube 发言人回复PopSci并发表声明：“我们一直在努力加强我们的执法系统，以便始终领先于最新趋势和诈骗手段，并确保我们能够快速应对新出现的威胁。我们正在审查与我们分享的视频和广告，并已删除了违反我们政策的多个视频，并对相关帐户采取了适当的措施。”