美媒深度披露五角大楼AI旗舰项目——梅文计划
彭博新闻社网站2月28日发表题为《人工智能战已经到来》的长篇文章,详解美军用于识别战场目标的人工智能项目——梅文计划。文章编译如下:
一些作战人员起先对人工智能抱有怀疑,但现在他们正在开发和利用识别战场目标的梅文计划。
2020年的某个夏夜,在美国陆军位于北卡罗来纳州占地庞大的自由堡基地,第18空降军的士兵们凝视着他们指挥所电脑上的卫星图像。正在察看的不只有这些士兵。稍早,在得到识别和提示目标的指令后,一个人工智能程序已扫描了这些照片。
不再流于理论
该程序要求人类操作员确认它的选择:一辆报废的坦克。在他们断定人工智能判断正确后,系统向一台作为美国炮兵主要武器的M142海马斯(即高机动性火箭炮系统)发送指示开火的信号。一枚火箭呼啸划过天空并找到目标,摧毁了那辆坦克。
这声爆炸不同于每年在自由堡基地14.6万英亩(约合5.9万公顷)训练场上进行的数百次实弹演习中的其他任何一次。事实上,这在整个陆军中都没有过先例。破天荒第一次,美国士兵打击了由人工智能程序定位和识别的目标。第18空降军火力支援协调员、人工智能瞄准项目负责人约瑟夫·奥卡拉汉上校在会议室里摆放了当时的照片:那辆坦克被明亮的火球所吞噬。他说:“它向我们展示了(战争是)可能性的艺术。”
在这一时刻之后不到4年,美国在战争中使用人工智能已不再流于理论。美国中央司令部首席技术官斯凯勒·摩尔说,在过去几周里,作为美国国防部人工智能旗舰项目组成部分梅文计划的计算机视觉算法已经定位了也门的火箭发射器和红海的水面舰艇,并帮助锁定伊拉克和叙利亚境内的打击目标。
引导人工智能实现从实验室向战场的过渡将是军方领导人面临的最棘手问题之一。
作为一支拥有9万名士兵的快速反应部队,第18空降军将成为梅文计划的试验平台。梅文计划是一个围绕强大算法构建起的意在识别战场上人员和装备的系统。依赖于机器学习领域的突破,该系统具有依靠训练数据和用户反馈找出目标的自学能力。五角大楼的人工智能模型还可以判断目标的变化是否可能具有重要意义,从而作出敌人正在修建新的军事设施之类的提示。所有这一切都会与诸如卫星图像和通过通信拦截获得的地理定位数据等信息融合到一台名为“梅文智能系统”的计算机界面上。
从起步到成熟
人工智能——或类似技术——在美国国防部有着悠久历史。冷战期间,“半自动地面环境”防空系统曾利用早期算法处理雷达数据。在“沙漠风暴行动”中,某个分析工具曾参加了部队调动的计划。
到2005年前后,人工智能的锋芒在民间社会得到确立。在各种发展加速之际,当时领导五角大楼一个专门关注先进技术的办公室的美国空军前助理部长威尔·罗珀越来越紧张地予以关注。他说,到2016年时,国防部还缺乏海量云存储能力或适合计算机处理的数据,官员们不懂机器学习。
由于担心军方无法在适当的时限内开发出自己的工具——美国主要的武器系统可能需要15到20年才能完全投入使用,罗珀提出了一项耗资5000万美元运用机器学习进行自动目标识别的计划。传统上,识别和归类战场上的敌方资产是一个费力的过程。分析员可能要花费数小时甚至数天时间——主要靠双眼——梳理卫星图像和监视数据。尽管已有别的自动瞄准软件,但士兵们认为它速度太慢,并极易做出错误判断。
2017年,罗珀方案的扩大版以国防部情报局主管的梅文计划——更正式的名称为“算法战交叉职能团队”——的形式成为现实。梅文团队着手评估来自不同公司的目标识别工具,并用海军海豹突击队在索马里拍摄的无人机视频对它们进行测试。梅文团队负责算法战早期测试和评估的简·皮内利斯回忆说,没有一种工具表现出色。源图像往往过于模糊、拍摄角度让算法产生混淆或者因标注不明而无法用于训练模型。这些公司的程序也存在不一致。被某个程序简单标定为“坦克”的目标,却被另一个程序标定为“苏式T-72”。在实验室外的表现甚至更差,这些系统无法应付糟糕的网络连接和老旧计算机——两个在战场上司空见惯的问题。
用于俄乌冲突
随着梅文计划的进展,其他问题也浮出水面。2018年,五角大楼最早的合作伙伴之一谷歌公司的数千名工程师曾签署信件抗议公司参与“战争技术”研发。谷歌公司没有续签合约。
尽管谷歌退出了,但其他众多科技和军工企业留在梅文计划,还有一些则在后来加入。据知情人士称,支持该系统的主要数据融合平台是由帕兰蒂尔技术公司制造的;在12家主要参与企业中包括了亚马逊网络服务公司、L3哈里斯科技公司、马克萨尔科技公司、微软和内华达山脉公司。
渐渐地,梅文计划得到了改善。2020年,奥卡拉汉在第18空降军的上司要求他调查该系统如何提升武器攻击。奥卡拉汉开始在更多的实弹训练中使用它,包括2020年那次在自由堡基地的火炮测试。此后通过与美军其他军种及英国等盟国协作,第18空降军使用梅文系统以及与之相连的武器系统从轰炸机、战斗机和无人机上打击目标,并制作了从潜艇上作出打击的型号。
从开始到现在,梅文平台已经取得了明显进步。除了视频图像,它现在还能整合来自可穿透云层、黑暗和降雨的雷达以及热探测红外传感器的数据,从而可以发现诸如发动机或兵工厂之类的可疑目标。第18空降军的高级瞄准官乔尔·坦普尔估计,利用梅文系统的协作,他现在工作一小时可以识别多达80个目标,而在不使用该系统的情况下只能识别30个。
在2022年2月俄乌冲突发生后,第18空降军的人工智能工程努力有了新的紧迫性。奥卡拉汉、坦普尔和来自该军总部的其他270人已被派至德国的一个军营,占用了原先的一个球馆作为指挥中心。他们许多人的屏幕上运行的是“梅文智能系统”。
奥卡拉汉和坦普尔拒绝透露五角大楼正在如何使用梅文之类的人工智能系统支持乌克兰。但因所谈论主题的敏感性而要求匿名的知情人士称,美国一直利用卫星情报和梅文智能系统向乌军提供俄军装备的位置信息,后者随后以卫星制导导弹对这些目标实施攻击。其中一名知情者说,协助基辅也有助于五角大楼大大提高使用人工智能工具的熟练程度——并且更有把握地预测在战争中可以如何使用这些工具。
不过,摩尔、奥卡拉汉及其他官员迫不及待地承认,他们的人工智能系统还有很长的路要走,并且无法超越人类的决策能力。
另外一些担忧则更为基础性。随着美国及其盟友开始依赖人工智能系统,敌人可能试图通过污染训练数据或扰乱软件更新来暗中破坏。算法会随着时间推移而失去准确性,而且由于它们的决策过程是模糊的,它们比其他军事技术更难测试。所有这一切都意味着就在战场上使用人工智能而言,指挥员将不得不判断军事需要和更广泛的背景是否让失误风险变得可以接受。混淆波涛与军舰是一回事——它充其量只会导致导弹无害地坠入大海,而利用人工智能瞄准某块附近有平民的拥挤的陆上战场则是另一回事。
尽管算法系统存在局限,但美国已表示打算扩大它们的自主性。国防部去年曾下达指令要求指挥和操作人员就武力的使用行使“适度的人类判断”,暗示官员们可能认为有人类的监督就已足够,而不再需要人类去做决定。
对于担心任由机器决断杀戮的后果的活动人士来说,这是一个严重的危险信号。阻止杀手机器人运动组织称,美国目前的承诺“完全达不到”充分的保障。
并非所有的担忧都来自军队之外。从事人工智能测试和操作的军官、空军上校塔克·汉密尔顿在最近一次会议上概述了一个害怕的想法。在他设想的场景中,一架人工智能无人机在接到中止任务的命令后决定杀死自己的操作员——它已断定此人正在阻止自己达成目标。就目前而言,此类设想仍属科幻小说的情节,但是增加人工智能自主性的趋势是显而易见的。
第18空降军军长克里斯·多纳休承认这些风险。他说,首先,未来的操作员们将不得不始终担心敌人污染或破坏了他们的算法系统。但他认为,要不要采用这些系统的问题早已有了答案。多纳休说:“你将不会有选择。你的敌人将替你选择,因此你不得不这么做。我们已经走在了机器与机器、机器人与机器人展开厮杀的路上。这种情况已经在发生。”(编译/曹卫国)