美国军方特别工作组将探索生成式人工智能

ChatGPT 或 DALL-E 等热门人工智能应用越来越受到大众的欢迎，国防部也注意到了这一点。为了提前了解此类工具的潜在用途和风险，8 月 10 日，国防部宣布成立一个新的工作组，分析生成式人工智能，并可能将其整合到当前的行动中。

人工智能是一个不太精确的术语，能够登上头条新闻的技术往往既有其缺陷，也有其潜在用途。五角大楼的特别工作组承认了此类工具的潜力，同时也给了军方一些喘息的空间，让他们了解这些工具究竟有哪些用处或威胁。

虽然五角大楼对人工智能的研究肯定会影响到人工智能最终对武器的意义，但问题的核心实际上是利用人工智能来处理、理解并从其收集的数据中得出某些预测。有时这些数据很引人注目，比如无人机拍摄的疑似叛乱分子会议或敌对部队调动的视频片段。然而，军方收集的很多数据都非常平凡，比如直升机和卡车的维护日志。

生成式人工智能或许可以在军方专属数据集上进行训练，输出结果可能暗示军方可能正在寻找的答案。但这个过程可能没那么简单。当今的人工智能工具容易出错，这种生成式人工智能还可能产生误导性信息，这些信息可能会被输入到下游分析中，导致混乱。人工智能出错的可能性和风险可能是军方对研究生成式人工智能持谨慎态度而不是从一开始就全力拥抱这项技术的原因之一。

生成式人工智能的研究将由新组建的利马工作组进行，该工作组将由首席数字和人工智能办公室领导。生成式人工智能办公室本身成立于 2022 年 2 月，由五角大楼其他几个办公室合并而成，旨在帮助军方更好地利用数据和人工智能。

国防部首席数字和人工智能官 Craig Martell 表示：“国防部必须负责任地采用生成式人工智能模型，同时确定适当的保护措施，并减轻可能因训练数据管理不善等问题而导致的国家安全风险。”“我们还必须考虑我们的对手将在多大程度上采用这项技术，并试图破坏我们对基于人工智能的解决方案的使用。”

生成式人工智能的其中一种恶意用途是将其用于虚假信息。虽然某些图像生成模型会为修改后的照片留下一些明显的痕迹，例如人们多出了异常多的手指和牙齿，但许多图像乍一看还是可以接受的，甚至令人信服。3 月，一张人工智能生成的教皇方济各身穿巴黎世家大衣的照片吸引了许多人，尽管这张照片的人工智能来源已经为人所知，而且可以复制。对于教皇这样的公众人物，很容易验证他是否穿着一件时髦的蓬松夹克拍照。当涉及到军事问题时，军方拍摄的照片解密起来可能很慢，而且精心制作的假照片的真实性可能很难被驳斥。

[相关：为何人工智能拍摄的教皇方济各身穿飞行夹克的照片在互联网上引起轰动]

恶意使用人工智能生成的图像和数据引人注目——这是利用现代技术实现的邪恶行为。至少同样严重的后果可能是常规错误。开源分析公司 Bellingcat 的暑期研究员 Dennis Kovtun 测试了谷歌的 Bard AI 和微软的 Bing AI，它们作为聊天机器人可以提供上传图像的信息。Kovtun 试图看看人工智能是否可以复制图像地理定位的过程（其中综合细节总数允许人类精确定位照片的来源）。

“我们发现，虽然 Bing 模仿了开源研究人员用于对图像进行地理定位的策略，但它无法独自成功对图像进行地理定位，”Kovtun 写道。“Bard 的结果并没有更令人印象深刻，但它的推理似乎更谨慎，而且不太容易出现人工智能‘幻觉’。两者都需要用户进行大量提示，才能得出一个令人满意的地理定位。”

这些 AI“幻觉”是指 AI 将其训练数据中的错误信息纳入结果中。引入新的和不正确的信息可能会破坏此类工具所承诺的任何节省劳动力的效用。

国防部副部长凯瑟琳·希克斯在宣布成立利马特遣部队时表示：“国防的未来不仅在于采用尖端技术，还在于有远见、有责任感，并深刻理解其对我们国家更广泛的影响。”

作为一个组织，美国军方尤其警惕技术突袭，即对手国家可能在美国没有做好准备的情况下开发出一种新的强大工具。虽然希克强调开发用于军事用途的生成式人工智能需要谨慎，但利马特遣队任务指挥官泽维尔·卢戈将这项工作描述为在管理风险的同时实施。

“各军种和作战司令部正在积极寻求利用生成式人工智能能力和 [语言学习模型] 的优势并管理其风险，这些能力和模型涉及多个任务领域，包括情报、作战规划、程序和业务流程，”卢戈说。“通过确定工作重点、减少重复并提供有利的人工智能支架，利马特遣队将能够在整个国防部内有效和负责任地实施 [语言学习模型]。”