人工智能语音过滤器可以让你听起来像任何人，也可以让任何人听起来像你

近年来，人们对人工智能深度伪造技术的关注度不断上升，主要集中在视觉欺骗上。想象一下，视频能够将一个人的脸神奇地叠加到另一个人的身体上，基于用户建议的超现实艺术，以及围绕所有这些能力的棘手的道德问题。但另一种令人信服的数字模仿的关键方法直到最近才得到适当的审查和讨论。

语音滤镜虽然并不是什么新鲜事物，但直到最近才开始受到人工智能的重视。不幸的是，它本身就带来了一系列严重的社会影响，而且就像视频深度伪造行业一样，监管机构似乎无能为力。

[相关：一家初创公司正在利用人工智能让呼叫中心听起来更“美国化”。]

新兴的人工智能工具，如 Koe Recast 和 Voice.ai，正在迅速磨练其将音频输入转换为几乎任何人想要的声音的能力，只要提供足够的源材料进行分析。在某些情况下，这些程序只需要 15 到 30 秒的剪辑就可以生成令人信服的模仿。尽管 Koe Recast 还处于私人 alpha 测试阶段，但已经有示例显示马克·扎克伯格的第二个简短剪辑听起来像一个低音重的叙述者、一个女人，甚至是一个高音调的动漫人物。

Koe Recast 的创始人 Asara Near 上周在接受Ars Technica采访时表示：“我的目标是帮助人们以任何能让他们更快乐的方式表达自己。”Near 补充说，他打算最终发布一款桌面应用程序，能够在 Discord 和 Zoom 等平台上实时转换用户的声音。当被问及不良行为者利用 Koe Recast 进行人身攻击和散布虚假信息的可能性时，Near 辩称：“与任何技术一样，它既有积极的一面，也有消极的一面，但我认为绝大多数人类都是优秀的人，他们将从中受益匪浅。”

[相关：过去十年人工智能如何爆炸式增长。]

然而，批评者仍然怀疑公众是否应该使用这些可能造成混乱的工具。最近，一些外包呼叫中心代表也开始使用人工智能软件来消除本国口音，以便听起来更“美国化”，试图减轻西方消费者的偏见。虽然该工具的创造者认为他们的发明可以防止偏见，但许多人反驳说，它只是提供了一种避免处理眼前更大问题（即仇外心理和种族主义）的手段。

同样，一些大型企业的员工也成了骗子的受害者，骗子会利用类似的音频模仿老板，要求他们提供资金转账和密码。“我认为，在大型企业中，越来越多的企业开始意识到这一点，因为他们是这类骗局的成熟目标，” Protocol的网络安全记者 Kyle Alspach 最近在 NPR 的Marketplace上解释道。

虽然阿尔斯帕赫还指出，这类骗局仍处于起步阶段，但这些手段可能很快就会变得更加普遍，而且不幸的是，很难区分事实和虚构。因此，不幸的是，人工智能支持的视觉和音频模仿的快速升级根本无法阻止。