人工智能伦理学家警告逝去亲人的“数字幽灵”

互联网上充斥着个人物品，其中许多物品在某人去世后仍会在网上流传很长时间。但如果这些遗物被用来模拟逝去的亲人呢？这种情况已经发生了，人工智能伦理学家警告说，这种现实让我们面临一种新的“死亡机器人”式的“数字困扰”。

几千年来，人们一直试图通过宗教仪式、灵媒甚至伪科学技术方法与已故的亲人交谈。但人们对生成人工智能的持续兴趣为悲伤的朋友和家人提供了一种全新的可能性——可以与根据死者在线状态和数据（包括声音和视觉相似性）训练的聊天机器人化身进行互动。虽然仍明确宣传为数字近似，但 Replika、HereAfter 和 Persona 等公司提供的一些产品可以（在某些情况下已经）用于模拟死者。

虽然有些人可能难以接受这一新现实，甚至难以认真对待，但重要的是要记住，“数字来世”行业不仅仅是一个仅限于小型初创公司的利基市场。就在去年，亚马逊展示了其 Alexa 助手仅使用一段简短的音频片段模仿已故亲人声音的潜力。

[相关：观看一位科技亿万富翁与他的人工智能克隆人对话。]

几十年来，人工智能伦理学家和科幻小说作家一直在探索和预测这些潜在情况。但对于剑桥大学利弗休姆未来智能研究中心的研究人员来说，这个不受监管、未知的“道德雷区”已经存在。为了加深这一认识，他们设想了三种可能随时发生的虚构场景。

在《哲学与技术》杂志发表的一项新研究中，人工智能伦理学家 Tomasz Hollanek 和 Katarzyna Nowaczyk-Basińska 采用了一种名为“设计小说”的策略。设计小说最初由科幻小说作家 Bruce Sterling 提出，指的是“通过使用叙事原型来实现对变化的怀疑”。基本上，研究人员会将合理的事件与虚构的视觉辅助工具一起写下来。

在研究中，Hollanek 和 Nowaczyk-Basińska 设想了三种超现实场景，即虚构人物遇到各种“死后存在”公司的问题，然后制作了数字道具，例如虚假网站和手机截图。研究人员专注于三个不同的人口统计数据——数据捐赠者、数据接收者和服务互动者。“数据捐赠者”是人工智能程序所基于的人，而“数据接收者”则被定义为可能拥有数字信息的公司或实体。而“服务互动者”则是亲戚、朋友和任何可能使用“死机器人”或“幽灵机器人”的人。

在一篇设计小说中，一位成年用户被他们已故祖父母的聊天机器人的真实感所打动，但很快便收到了“高级试用”和以亲戚的声音风格制作的送餐服务广告。在另一篇小说中，一位身患绝症的母亲为他们八岁的儿子创建了一个死亡机器人，以帮助他们抚平悲伤。但在适应孩子的反应时，人工智能开始建议面对面会面，从而造成心理伤害。

最后一种情况是，一位老年客户订阅了 20 年的 AI 程序，希望能安慰家人。但是，根据公司的服务条款，即使他们的子孙不想使用该服务，他们也不能暂停该服务。

“生成式人工智能的快速发展意味着几乎任何拥有互联网接入和一些基本知识的人都可以复活已故的亲人，”Nowaczyk-Basińska 说道。“与此同时，一个人可能会留下一个人工智能模拟作为告别礼物，送给那些还没有准备好以这种方式处理悲伤的亲人。数据捐赠者和与人工智能来世服务互动的人的权利应该得到同等保障。”

[相关：一通深度伪造的“乔·拜登”自动电话告诉选民在初选期间待在家里。]

“如果人们遭受人工智能以惊人的准确度再现他们失去的亲人的数字困扰，这些服务可能会给他们带来巨大的痛苦，”霍拉内克补充道。“潜在的心理影响可能是毁灭性的，尤其是在已经很困难的时候。”

伦理学家认为，可以且应该尽快实施某些保障措施，以防止此类结果。公司需要制定“淘汰”虚拟形象的敏感程序，并通过风险免责声明保持其服务运作方式的透明度。同时，“重建服务”需要仅限于成年用户，同时也要尊重数据捐赠者和数据接收者的相互同意。

诺瓦奇克-巴西诺斯卡认为：“我们现在需要开始思考如何减轻数字永生带来的社会和心理风险。”