Deepfake 视频可能足以让人产生虚假记忆

Deepfake 技术已被证明是一种令人不安的有效传播虚假信息手段，但一项新研究表明，生成式人工智能程序的影响可能比最初担心的更为复杂。根据本月早些时候发表在PLOS One上的研究结果，Deepfake 片段可以改变观看者对过去的记忆以及他们对事件的看法。

为了测试伪造的效果，爱尔兰科克大学的研究人员要求近 440 人观看深度伪造的电影翻拍片段，这些片段来自《黑客帝国》中的威尔·史密斯、克里斯·普拉特饰演的印第安纳琼斯、布拉德·皮特和安吉丽娜·朱莉在《闪灵》中的表演，以及查理兹·塞隆取代布丽·拉尔森饰演的《惊奇队长》。在此之后，参与者观看了《查理和巧克力工厂》 、 《全面回忆》和《魔女嘉莉》等电影的真实翻拍片段。同时，一些志愿者还获得了不存在的翻拍的文字描述。

[相关：这个虚构的新闻节目完全由人工智能和深度伪造制作。]

经过审查，近 50% 的参与者声称记得影院上映的深度伪造翻拍电影。其中许多人认为这些虚构电影实际上比原版更好。但尽管这些数字令人不安，但使用深度伪造来歪曲过去似乎并不比仅仅阅读虚构电影的文字回顾更有效。

周五，虚假信息研究员兼研究报告主要作者吉莉安·墨菲 (Gillian Murphy) 在接受《每日野兽》采访时表示，这些发现并不“特别令人担忧”，因为这些发现并没有表明深度伪造与现有的虚假信息传播方法相比构成了“独特而强大的威胁”。尽管如此，他们承认，如果深度伪造能够迅速传播，或者在很长一段时间内让人印象深刻，那么它们在传播虚假信息方面可能会做得更好。

这些恶意深度伪造可能取得成功的一个关键因素是所谓的动机推理——人们倾向于无意中让先入为主的观念和偏见影响他们对现实的看法。如果向人们展示支持现有信念的所谓证据，人们更有可能不加思索地相信这些证据。因此，如果深度伪造有利于你的社会政治倾向，你就更有可能相信它，而如果深度伪造似乎“反驳”了你的论点，你可能会更加怀疑它。

[相关：Deepfakes可能使用了新技术，但它们基于一个旧的想法。]

动机推理本身就已经够糟糕了，但如果人们没有意识到这些问题，深度伪造很容易加剧这种常见的逻辑谬误。提高公众的媒体素养和批判性推理能力是确保人们记住威尔·史密斯主演的《黑客帝国》是一部有趣的好莱坞“如果？”而不是事实的关键因素。至于这样的项目是否会比原版更好——就像许多深度伪造一样，一切都取决于你如何看待它。