「相互确保摧毁」：不断升级的全球人工智慧军备竞赛

去年9月 在北京举行的一场阅兵式上 ，中国国家主席习近平与他的贵宾——俄罗斯总统弗拉基米尔·普丁和朝鲜领导人金正恩——一同观看了中国军队展示的多款无人机，这些无人机能够自主伴飞战斗机投入作战。 这番技术实力展示立即引起了美国的警觉。据三位美国国防和情报官员透露，五角大厦得出结论，美国的作战无人机计划已落后于中国。此外，这些官员表示，俄罗斯在建造生产先进无人机的设施方面也被认为领先于美国。由于未获授权公开谈论军事能力，这些官员要求匿名。 美国官员随即敦促国内的国防企业加快步伐。上个月，加州国防科技初创企业 Anduril 开始制造配备人工智慧、能够自主飞行的无人机，其外观与在中国展示的型号相似。一名国防官员表示，位于俄亥俄州哥伦布市外的工厂提前三个月启动生产，这是为了缩小与中国的差距所做的努力之一。 中国的军事展示以及美国的应对举措是围绕 人工智慧驱动的自主武器和防御系统 不断升级的全球军备竞赛的一部分。这类技术旨在通过人工智慧实现自主运行作，从而减少人类在「何时打击移动目标」或「如何防御攻击」等决策中的干预。 近年来，许多国家在这一领域展开了悄无声息的较量，包括能够在没有人工指令下识别并打击目标的无人机、能够在人类飞行员几乎难以企及的速度和高度协同攻击的自主战斗机，以及由人工智慧驱动的中央系统，用于分析情报并快速推荐空袭目标。 作为世界上最大的两个军事强国，美中处于这场竞争的中心。但这场竞赛的范围正在扩大。已进入战争第五年的俄罗斯和乌克兰正在寻求一切技术优势。印度、以色列、伊朗等国也在投资军事人工智慧，法国、德国、英国和波兰也在重新武装自己——因对川普政府在北约承诺上的疑虑。 国防和情报官员表示，每个国家都致力于积累最先进的技术储备，以备在需要时能够以人类无法企及的方式进行无人机对无人机、算法对算法的作战。 Anduril创始人帕尔默·勒基在2月接受采访时表示，俄罗斯、中国和美国都在制造人工智慧武器，既作为威慑手段，也为了实现「相互确保摧毁」。 这种军备建设被拿来与20世纪40年代核时代的开端做比较。当时， 原子弹的巨大破坏力 迫使敌对国家进入一种不稳定的对峙状态，并导致了持续四十多年的核武器边缘政策。 核武器的影响已为人们所熟知，而人工智慧的军事能力才刚刚开始显现。官员们表示，这项技术无需暂停、无需进食、无需饮水、无需睡眠，它将以更快的速度和更不可预测的方式颠覆战争形态。 目前尚不清楚哪个国家处于领先位置。许多项目仍处于研发阶段，相关预算也属于机密。情报官员表示，中国、美国和俄罗斯的谍报人员都在密切留意彼此的工厂生产线、军事展示和武器交易，以推断对方的动向。 两名美国官员表示，中国和俄罗斯正在试验让人工智慧自主做出战场决策。中国正在开发能够让数十架自主无人机在没有人工干预的情况下协同发动攻击的系统，俄罗斯则在建造「柳叶刀」无人机，这种无人机可以在空中盘旋并自主选择目标。 即使这些技术的具体细节仍处于保密状态，但其意图已十分明确。普丁在2017年曾宣称，谁在人工智慧领域领先，「谁就将成为世界的统治者」。习近平在2024年表示，科技创新将成为地缘政治竞争的「主战场」。今年1月，国防部长彼特·海格塞斯要求美国各军种采用人工智慧，称他们需要「 拚命加速 」。 数十亿美元正被投入到这些努力中。五角大厦在其最新预算中为自主系统申请了超过130亿美元，且在过去十年中已耗资数百亿，不过由于人工智慧的资金分散在许多项目中，总金额难以统计。 一些研究人员表示，中国的投入规模与美国相当，并通过财政激励措施推动私营企业发展人工智慧能力。分析人士称，俄罗斯也在无人机和自主系统方面进行投资，并利用俄乌战争的战场测试和完善这些技术。 中国驻华盛顿大使馆发言人刘鹏宇表示，中国已提出规范军事人工智慧的国际框架，并呼吁对其发展采取「审慎和负责任的态度」。 五角大厦和俄罗斯国防部均未回应置评请求。 这种态势可能类似于 冷战 ，但专家警告称，人工智慧时代有所不同。初创公司和投资者如今在军事领域发挥著作用，其重要性不亚于大学和政府。人工智慧技术正变得广泛应用，为从土耳其到巴基斯坦等国家开发新能力打开了大门。一场没有明确终点、不断推进的创新竞赛正在形成。 将生死抉择交给机器所引发的伦理问题正在被各国竞相研发的浪潮所淹没。中美之间唯一关于人工智慧武器的重要协议是在2024年达成的，这是一项不具约束力的承诺，旨在保持人类对核武器使用决策的控制。其他国家，如俄罗斯，则未做出任何承诺。 有人认为，人工智慧的影响将超过任何一场军备竞赛。 「人工智慧是一种通用技术，就像电力一样。我们不会说电力军备竞赛，」曾参与自主武器开发的五角大厦前官员麦可·霍洛维茨说。「如果说人工智慧正在改变我们的军队，其方式与电力、计算机或飞机当年如出一辙。」 军备建设拉开序幕 2016年，在中国南方城市珠海的一个航展上，一家中国供应商让 67架无人机编队飞行 。为了展现它们的能力，还用一段动画呈现出这些无人机摧毁导弹发射器的场景。 俄罗斯也在建设无人机武器库。2014年，该国的军事规划部门设定了到2025年实现30%作战力量自主化的目标。到2018年，俄罗斯军方在叙利亚测试了一款无人战车。虽然该战车失败了——信号丢失、未能击中目标，但它凸显了莫斯科的雄心。 在华盛顿，此前曾在国防部从事情报工作的中将杰克·沙纳汉正在评估人工智慧能否解决一个更紧迫的问题。美军收集的数据太多了——无人机拍摄的画面、卫星图像、截获的信号，以至于没人能全部理清。 「军方任何研究实验室都无法在短短几年内产生成果，」沙纳汉将军说。「我们有一个不靠人工智慧就无法解决的问题。」 2017年，沙纳汉将军协助创建了马文项目(Project Maven)，这是国防部为将人工智慧纳入军事系统而做出的努力。其目标之一是与矽谷合作，构建能够快速处理图像（如无人机拍摄的画面）用于情报目的的软体。谷歌曾被选中提供帮助。 但该项目很快遇到障碍。五角大厦的采购体系建立在传统承包商和漫长的交付周期之上，拖慢了进度。 当马文项目的消息在谷歌内部传开后， 员工们也提出了抗议 ，称一家曾承诺「不作恶」的公司不应帮助识别无人机打击的目标。谷歌最终 退出 了该项目。 2019年，由科技投资者彼得·蒂尔共同创立的数据分析公司Palantir接管了马文项目。Anduril等新的国防科技初创公司也出现了，它们在美国南部边境沿线向联邦政府提供由人工智慧支持的传感器塔。 在中国，北京通过军民融合战略推动商业科技公司与国防部门合作。私营企业被纳入军事采购、联合研究以及与国防机构的其他合作项目中。从事无人机和无人艇的公司发现，其技术在军事领域的需求日益增长。 2022年俄罗斯入侵乌克兰，将理论变成了现实。 在武器、经费和人数均处于劣势的情况下，乌克兰依靠 廉价技术拼凑而成的武器库 挡住了俄罗斯的进攻。业余爱好者使用的竞速无人机被用来攻击前线的俄罗斯阵地，其 杀伤力最终超过了火炮 ，在某些情况下甚至具备自主作战能力。遥控艇则让俄罗斯黑海舰队陷入困境。 俄罗斯也进行了调整。其最初由人工操控的「柳叶刀」无人机已集成自主目标锁定功能。 「乌克兰战场四年的残酷厮杀已成为全世界的实验场，」前五角大厦官员霍洛维茨说。 最近几个月，乌克兰开始将 其海量战场数据与Palantir等公司共享 ，以便人工智慧系统更好地学习如何作战。 在欧洲，各国政府正努力减少对美国军队的依赖，乌克兰的教训产生了强烈共鸣。今年2月，德国、法国、义大利、英国和波兰 表示 ，他们将共同开发一套防空系统，以防御无人机威胁。 中国也在推进。2024年珠海航展上，中国主要国防制造商之一的北方工业展示了多款具备人工智慧能力的武器。其中一个系统展示了一整个由人工智慧控制和操作的旅级单位，包括装甲车辆和无人机。 另一款由中国航空工业集团推出的飞行器是一架16吨重的喷气动力无人机，设计用于充当飞行航母，可在飞行中部署数十架小型无人机。 「点击左键、点击右键」 今年2月 美以联军对伊朗发动打击 一周后，一位五角大厦高级官员在Palantir直播的一场会议上展示了当今计算机化战争的真实面貌。 卫星画面显示了一个仓库。一名军官点击鼠标，实时选中了停在外面的一排白色卡车作为打击目标。几秒钟内，人工智慧软体就推荐了武器、计算了燃料和弹药需求、权衡了行动成本，并生成了打击计划。 这就是沙纳汉将军当年启动、如今由Palantir运营并由商用人工智慧驱动的马文项目的现代版本。该系统分析来自不同来源的情报，生成按优先级排序的目标清单并推荐武器，几乎消除了从发现目标到摧毁目标之间的延迟。 马文项目嵌入了人工智慧公司Anthropic开发的军用版聊天机器人Claude，在伊朗行动的最初几周，该系统帮助生成了数以千计的目标，美国中央司令部司令布拉德·库珀上将将这一速度部分归功于「先进的人工智慧工具」。 出席Palantir会议并演讲的国防部首席数字与人工智慧官卡麦隆·斯坦利表示，马文项目正在做的工作是「革命性的」。他说，人类的参与仅限于「点击左键、点击右键、点击左键」。 乔治城大学安全与新兴技术中心高级研究员埃梅利亚·普罗巴斯科表示，关于马文项目能力的说法可能被夸大了，美国的优势很大程度上来自数据流的规模，以及使用这些工具的人员技能。 「这不是火箭科学，」她说，「我怀疑中国已经有了类似的东西。」 在最近一份分析数以千计中国人民解放军采购文件的报告中，普罗巴斯科发现，中国正在建设与美国类似的系统。其中一个例子显示，中国正试图复制「联合火力网路」，这是一个旨在全球连接传感器和武器的美国项目，让一架无人机可以在世界一侧为另一侧的打击提供指引。 在某些领域，中国显然处于领先地位。其制造业优势意味著它能够以五角大厦无法匹敌的规模生产自主武器。 在川普政府内部，推动人工智慧武器的热情已近乎狂热。上个月， 五角大厦将Anthropic列为安全风险 ，部分原因在于该公司希望限制其技术在自动武器中的应用。 「我们将赢得人工智慧竞赛，」负责经济事务的副国务卿雅各布·赫尔伯格上个月在由他共同创立的「国会山庄与矽谷论坛」上表示，该年度会议旨在连接矽谷与政府。 在会议上，科技高管、投资者和政府官员对那些呼吁科技公司向军方无限制开放人工智慧的演讲者报以热烈掌声。 Anduril的勒基认为，人工智慧军备建设可能防止大规模战争。其逻辑与冷战类似：如果双方都清楚这种机器的能力，就没有人愿意冒险去验证。 「如果能制造出足以有效遏制战争的武器，超级大国之间的冲突也会随之缓和，道理是类似的，」他说。 然而，威慑的前提是理性，而人工智慧武器的设计初衷却是超越人类理性的反应速度。在2020年以来的演习中，研究人员探讨了自主系统如何加速升级并削弱人类控制——结果令人担忧。 在一个场景中，由美国和日本操作的系统在应对朝鲜导弹发射时，自主发动了出人意料的反击。 兰德公司分析师的 报告 称，「自主系统的速度导致了无意的升级。」 2020年从军方退役、现为智库新美国安全中心研究员的沙纳汉将军表示，自己曾参与推动的这场竞赛让他夜不能寐。他说，各国政府必须在技术发展超出控制之前设定明确的界限。 「存在升级螺旋的风险——如果我们不小心，我们就有可能部署未经测试、不安全、未经证实的系统，因为双方都觉得对方在隐瞒什么，」他说。