稻草人正在制造金属人来杀死你

当撰写一个关于机器人的真正吸引人的标题时，你通常有两个选择。

首先，有机器人起义的参考。无论是直接引用（参见Gizmodo的“ATLAS：可能是迄今为止最先进的人形机器人，绝对令人恐惧”），它是一款为开发救生急救机器人而设计的非武装机器人；还是简单地提及（电讯报的“科学家公布终结者式自组装机器人”），它讲述了可以（等待）笨拙地摇摇晃晃地向彼此靠近的微型立方体机器人——结果都是一样的。它引用了机器反抗其创造者并实施种族灭绝的概念，而且通常很滑稽。参与其中的作家和编辑是否真的相信他们所利用的科幻预言？他们真的认为詹姆斯·卡梅隆已经看到了我们的未来吗？未来到处都是人类的头骨，被自主激光坦克和骷髅般的红眼妖怪踩在脚下？好吧，谁知道呢？这只是个笑话，对吧？完全是令人捧腹大笑，就像大多数关于人类将因大规模、系统性屠杀而灭绝的搞笑预言一样。

这是让你（和我）关注机器人新闻的一种方法。另一种方法是抛弃一切伪装，直面恐惧：杀手机器人正在来抓你。

以本月早些时候约书亚·福斯特在《防务一号》上发表的一篇文章为例，文章的标题是“为什么美国想要无需人类就能杀人的无人机”。

但在转发到姊妹网站Quartz时，标题变成了更加自信的语气：“最安全的无人机将能够在没有人类控制的情况下杀人。”

暂停片刻。仔细品味。感受一下两个标题句法中散发出的确定性。没有问号，没有警告或保留。政府想要这些系统。安全的无人机将在无人控制的情况下杀人。正如无人机将继续被制造和部署，正如我们每个人最终都会死亡一样，无人机将在无人控制的情况下杀人。

但接下来的故事似乎恰恰证明了相反的观点。它首先提出了致命自主机器人（LAR）的担忧，并使其成为学术界和军界热议的话题。专家的言论有助于确定这种无人驾驶的杀戮机器人可能带来的好处——与当今的遥控系统相比，它更不容易被黑客入侵，而且瞄准能力更强——然后又将整个概念推向了穷途末路。

一位教授在谈到叙利亚问题时表示：“认为用机器人武器就能解决危机的想法既幼稚又危险。”另一位专家、布鲁金斯萨班中心的研究员表示：“归根结底，国家安全人员……不想放弃对冲突的控制权。”他补充道：“在自动化系统下，失败的后果在公众心目中更为严重。人为失误让人们更愿意接受人为造成的附带损害。”

故事以一位海军研究生教授的一句专家名言作为结尾：“我认为，没有任何行动者，无论是非人类，能够执行精确的交战规则，从而让武装干预对叙利亚有所帮助。”

这似乎是一篇非常负责任的文章，讲述了 LAR 不是一个好主意的所有原因。然而，它缺少的是，而且关于这一迫在眉睫的威胁的每个故事都没有提到，是否有人公开谈论过想要将机器人投入战区。我采访过的每一位军事和机器人专家都重复着同样的观点，就像任何正式的谈话要点一样经过了训练和排练——必须有一个“人参与其中”。有人要么引导无人机的瞄准线对准目标并扣动扳机，要么在理论上告诉机器人，“来吧，杀了那个家伙。”

所以，我的问题是：这些不具名、不为人知的疯子在哪里？他们急于将无人机送入指定的杀戮区，让无人机使用自己的算法判断来决定忽略谁，将谁打得落花流水？这些军人是知道（其中一些人有第一手经验）友军误伤有多么危险，或者任何技术多久会适得其反的人吗？他们是国防部资助的机器人专家吗？他们的机器人在实验室里经常停顿下来，对他们来说，失败是意料之中的事，最好的希望是取得不那么尴尬的成功率？

我的目的不是挑剔福斯特——他是一位优秀的作家和记者。无论是谁为他的文章写了各种标题，还是谁借用了那篇展示文案的挽歌式语调，用自己的故事和帖子报道《国防一号》的故事，比如“即将推出可以自行杀人的致命自主机器人”和“无人驾驶飞机将做出打击决定”，他们都只是随波逐流。这就是报道无人机未来这一极其严肃、极其严肃的事情的处理方式，通过暗示和暗示将出现一大群不可避免的、不受束缚的死亡机器。谁想要这些世界末日的设备？当然是一群嗜血的稻草人。

需要说明的是，我自己也助长了这种丑陋的传统，既无意中，也因为没有正确审查或编造谣言和产品炒作。我无意中开始了一个关于武装地面机器人瞄准军事人员的虚假都市传说。我收集了一些可能永远不会投入开发的可怕的外国机器人，包括一篇关于韩国经常被提及的（作为杀戮机器人成为现实的一个例子）机器人哨兵塔的早期简介——一个武装的、自称自主的系统，在非军事区内训练其邪恶的枪支和传感器——该系统在维基百科条目中被列为外部来源。这个故障地面机器人的故事是在一场网络电话游戏中被打乱的，或者韩国杀戮塔在理论上只有在接到命令时才会开火，否定了它作为自动死亡机器的地位，这些都几乎无关紧要。这些例子，无论是否得到支持或不完整，都不言自明。自主死亡机器人已经出现，证明更多的机器人正在路上。别介意唯一证实的例子是一个实验性的哨兵塔，它从未向人开火，而且它的部分自主性由人类操作员操控。

关于自导式杀人机器人的必然性的持续讨论的核心是，这种技术是存在的——只是部署它的问题。2007 年，一种无需操作员干预就能拦截并向来袭导弹和飞机开火的机器人防空炮塔发生故障，导致 9 名水兵丧生。难道这种事情不会故意再次发生吗？当然。从技术上讲，这是可能的。但这也完全不可能，就像朝鲜在美国本土投下核弹，确保自己灭亡一样。庞大的导弹防御行业曾利用朝鲜为其冷战后资助辩护，我无意冒犯他们，但能力并不等于现实。如果我们不把逻辑运用到我们周围的世界中，那么我们要么相信别人的炒作，要么只是用虚幻的威胁来恐吓和分散自己的注意力。使用 LAR 的先决条件是数百甚至数千名政客、军人和研究人员的疯狂行为的结合。尽管有政府关门的笑话，但五角大楼的大厅并不是《三个臭皮匠》式的扔馅饼式愚蠢行为的交火之地，也没有被绝望地寻找新方法来造成附带损害的食尸鬼跟踪。即使最卡通化的国防部是真实的，而且它足够愚蠢和/或足够邪恶，以至于可以实现其所报道的对 LAR 的追求，我们难道不应该等待这种系统的第一次实际宣布或实地测试，而不是先发制人地对终结者大小的阴影尖叫吗？

我很可能对这一切的看法都是错的。也许我只是想给所有人的杀戮机器人游行泼点冷水，因为这就是你在互联网上做的事——告诉那些玩得开心的人停止这种行为。所以我开放了评论。如果有真实的例子，真实的人要求一种完全自主的武装无人机，可以在没有人类授权的情况下选择和攻击其目标，请告诉我们。也许我所说的编辑和作家认为他们的标题和故事没有误导性和耸人听闻。也许机器人毕竟是来找我们的。

如果是这样，那就别再说“如果”、“没有来源”的闲话和伪装成新闻的思想实验了。关于实际的遥控无人机向实际的人类发射实际导弹，未来 20 年足以让我们忙个不停。到那时，也许会有理由让机器人随意杀人。

那 UFO 呢？我也看到过很多关于 UFO 的令人震惊的新闻报道。