在模拟宇宙中创造新生命的伦理道德是什么？

以下是 Zeeya Merali 所著《小房间里的大爆炸：创造新宇宙的探索》的节选，现已在书店有售。在书中，Merali 探讨了在实验室中创造新生宇宙的可能性。在这段节选里，她与著名的未来学家 Anders Sandberg 会面，讨论了在新生宇宙中创造新智慧生命的伦理问题，或者在计算机模拟中进化出感知能力的可能性。

20 世纪 80 年代，安德斯·桑德伯格 (Anders Sandberg) 还是个孩子，他喜欢用自己的 Sinclair ZX81 进行模拟，模拟微型太阳系。后来，他开始设计人工神经网络，使用受大脑启发的学习算法。“有些人通过看电视来放松。我一边听哲学讲座一边编写模拟程序，”桑德伯格笑着说。他回忆说，1999 年的一天，他删除了电脑上一个神经网络的副本，并感到“有点内疚”。他不禁担心：“我是不是刚刚毁掉了一个小创造？”

在因失去神经网络而感到内疚之后，桑德伯格转向了哲学研究，现在他在牛津大学人类未来研究所撰写有关模拟伦理的文章。他认为，人们将不得不比他们想象的更早地解决如何以同情心对待机器实体的问题。然而，他指出，不仅在广大民众中，而且在科学家中，人们普遍不愿意面对这些问题。

在与参与宇宙构建的物理学家交谈时，我遇到了这种沉默。有些人试图回避在实验室宇宙中创造生命的道德影响问题，称这些问题超出了他们的职权范围。“大多数人都有怪异预算，你实际上不能用太多，因为如果你的怪异账户透支，那么显然你不会被认真对待，”桑德伯格说。“所以很多人对可能真正重要的考虑保持沉默。”

桑德伯格可以想象为什么一个超级智能种族会创造一个模拟世界，并把我们放进去；其中许多原因和我们目前运行模拟世界的平凡理由是一样的。例如，我们正在努力寻找最有效地利用有限医疗资金的方式。是建立一个总体人口健康状况较高但医疗保健分配不均，导致少数人遭受痛苦的世界更好？还是建立一个更公平的社会更好，让每个人都能享受同等水平的医疗保健，即使这个水平实际上可能很低？模拟这两个世界可能会帮助你做出决定。只要模拟生物都没有意识体验，那就没问题。但如果它们进化出了智慧和感情，那么你可能无意中在你的人造世界中制造了很多痛苦。

桑德伯格认为，我们有可能成为一个相对较小的模拟的一部分，例如，监测英国国民健康服务体系 (NHS) 不同支出政策对整个英国人口的影响。在这种情况下，关注点将是英国使用这些资源的个人，而模拟宇宙的其余部分可能只是勾勒出颜色。

但现在我想分析一下，作为我们自己模拟宇宙的程序员，我们有哪些道德责任。首先，某人的医疗保健政策模拟可能产生有意识的生命，这是否存在严重危险？“人工智能意外出现的可能性比有人故意制造的可能性要小，但如果从原则上讲，这种情况会发生，我也不会感到惊讶，”桑德伯格说。如果真的发生了，很可能是因为我们正在创建越来越智能的软件，这些软件单独不会产生意识，但被设计成与其他智能软件交互。危险在于，当它们连接在一起时，整体可能会大于各部分之和。

假设这种情况确实无意中发生，我们的医疗保健生物也经历了这些体验。我们应该干预，还是应该切断连接，结束他们的生命？桑德伯格说，就医疗保健模拟而言，为了减轻我们强迫我们的一些创造物在贫困和医疗保健匮乏的环境中生存的罪恶感，一个建议是，在模拟结束时奖励他们，将他们转移到另一个可以过上快乐生活的模拟中。

“这听起来很像是把人送上天堂。”我说。

“这是一个偷来的想法，”桑德伯格承认。但制造一个人造天堂来补偿你的存在又引发了一个新问题：你要把哪个版本的受虐待的模拟实体上传到天堂？上传一个记忆和大脑功能被阿尔茨海默病摧毁的人似乎不公平，所以也许你应该上传一个更年轻的版本。但很难决定应该在什么时候转移这个实体，哪些生活事件应该被视为对其身份发展至关重要，哪些应该从它的记忆中抹去。你应该从它皈依宗教、坠入爱河、生孩子或经历创伤事件之前还是之后的某个时刻上传这个实体？“如果你认为你对模拟实体负有道义上的责任，那么责任的尽头就有点不清楚了，”桑德伯格说。“也许你应该在他们生命的各个阶段复活他们的副本。”

在粒子加速器中创造宇宙将是一个巨大成功。但考虑到我们目前的能力，我们似乎不太可能在实验室中达到桑德伯格在谈论计算机模拟宇宙时提到的控制水平。例如，在大型强子对撞机中，研究人员主要采用碰运气的策略，几乎没有空间对粒子碰撞的产物进行细微的调整。在这种情况下，我们可能会无意中创造生命，我们的生命能够体验随之而来的痛苦和快乐，但我们无法控制它们之后的幸福。那么我们是否应该继续这样做呢？

虽然这是一个经典问题，哲学家们在模拟的背景下对此进行了长期而深入的思考，但桑德伯格指出，并没有达成共识。也许最简单的答案就是直截了当地说“不”。如果你的宇宙有可能涉及制造一个会遭受痛苦的有知觉的生物，你就不应该制造它。其他人会说，重要的是宇宙中所有经历的总和；如果你把快乐的人加起来，减去不快乐的人，得出一个总体肯定的答案，那么就去做吧。还有一些人认为，你需要对宇宙中的平均幸福水平进行某种衡量。但是，对于什么构成了一个好的宇宙，并没有明确的数学答案。我们又回到了医疗保健难题，稍微重申一下：一个几乎每个人都有点幸福，但少数人正在遭受可怕折磨的宇宙，会比一个一半人欣喜若狂、另一半人略显痛苦的宇宙更好还是更坏？桑德伯格说：“无论你用什么方式去争辩，你都可以提出一个案例，但随后会有人提出反例来说明为什么它是不好的。”

或许还有一种情况是，即使我们失去了对自己创造物的控制，创造智能观察者也会不断增加宇宙中美好事物的数量。“我要提出的一个论点是，智能生命倾向于控制其环境，使自身变得更好，”桑德伯格说。“所以你实际上应该期望，一个充满智能观察者的宇宙会比没有智能观察者的宇宙略微变得更宜居。”

说实话，这是我以前没有考虑过的观点。也许我们在道义上有义务努力创造更多的生命。我感谢桑德伯格，然后放心地道别。当然，我希望他是对的，因为风险确实巨大。

摘录自 Zeeya Merali 所著的《小房间里的大爆炸：创造新宇宙的探索》。版权所有 © 2017。Basic Books 是阿歇特图书集团旗下 Perseus Books, LLC 的子公司。

《大众科学》很高兴为您带来新的和值得关注的科学相关书籍。如果您是作者或出版商，并且有一本您认为我们的读者会喜欢的令人兴奋的新书，请与我们联系！发送电子邮件至 [email protected]。