人工智能险些将美国拖入与中国的冲突

9月18日，CNN披露，今年春季美伊战争期间，一份由人工智能辅助生成的情报报告，险些致使美军对一艘航行于中东海域的中国货船采取军事行动。

据四名了解此事的人士透露，当时美军收到一份情报研判报告，声称这艘中国船只正在运输与核武器计划有关的设备和材料。情报在美国军方内部传阅后立即引发高度警觉，美军随即启动应对程序，计划拦截目标船只。其中两名消息人士称，武装突击分队已做好登船检查的准备；另有一名消息人士和一名了解事件的人士表示，部分军用飞机已经升空待命，行动距离真正实施仅一步之遥。

然而就在行动即将展开之前，有官员对这份情报进行了进一步核查。他们随后发现，报告是由美国太平洋特种作战司令部（驻夏威夷）的一名分析人员借助人工智能工具完成的。该分析人员使用聊天机器人处理一份有关船舶货物清单的情报资料，AI系统将公开来源情报与政府掌握的机密信号情报进行整合分析后，错误识别了船舶所运输的货物，从而得出这艘中国船只涉及核武器项目的结论。该分析师随后再次使用AI工具，将错误结论格式化成一份看似官方的摘要，并在各指挥渠道中传阅。

目前尚不清楚船上实际装载的究竟是什么货物，但知情人士表示，相关情报内容完全错误。一名了解事件经过的人士称，这份报告“完全是假的”，但它“几乎引发了一场战争”。

这起险情发生之际，美国军方和情报机构正大力推动人工智能技术在各领域的应用。从海量原始情报分析、目标识别与打击决策，到预算管理、后勤保障和供应链规划，人工智能正被逐步嵌入军事体系的多个关键环节。

今年1月，美国国防部长皮特·赫格塞思公布了一项名为"人工智能加速战略"的新计划，旨在通过减少官僚程序、增加资金投入和扩大实验规模，进一步提升美军采用人工智能技术的速度，在军事人工智能领域保持领先地位。

五角大楼曾将AI描述为在“加速杀伤链”方面带来显著优势的技术，使指挥官能够在恰当时机作出响应。但让AI具有吸引力的这种速度，也可能在人类监督不足的情况下让模型幻觉得以出现并一路沿着指挥链向上传递。

此次事件暴露出美军在AI军事应用中的多个深层隐患：

--工具标准不一：尚不清楚涉事分析师使用的聊天机器人是市面上的商用产品还是美国政府的产品，反映出美军各机构AI工具分散部署、缺乏统一规范。

-- 缺乏核验机制：AI生成的错误结论未经充分人工核实便进入指挥链，说明在AI辅助目标选定时缺乏明确的人机协同规范。

-- 幻觉风险被低估：目前许多军方内部使用的人工智能系统，本质上仍建立在商业模型基础之上，与外界常见的聊天机器人并不存在根本差异。这些工具虽然能够快速处理信息，但依然会出现“幻觉”现象——即生成看似合理却并不真实的结论。

GovAI研究学者、美国陆军退伍军官Jake Steckler表示，“对于军人来说，理解大语言模型固有的不确定性非常重要。但对于任何可能导致使用武力的决策——比如目标选定、情报分析或作战规划——这一点尤为关键。这些决策关乎生死。”

这并非AI误判导致军事行动的首例。2026年2月美伊战争首日，美军“梅文智能系统”（Maven Smart System）因数据库未更新，将伊朗米纳卜市一所女子小学误判为高威胁军事目标，导致“战斧”导弹将其夷为平地，造成约160至175名平民死亡。人类指挥官在“自动化偏见”下仅用约20秒形式化审核即批准了打击。

Anthropic公司首席执行官达里奥·阿莫代伊曾直言，技术并不可靠，“至于完全自主武器，我其实对此感到担忧，这项技术并没有准备好参与打击决策。”

该事件已成为军事情报领域使用人工智能所潜藏风险最突出的案例之一。CNN消息人士称，这次失误本有可能引发严重的国际局势升级，甚至爆发武装冲突。如果美国对中国船只采取军事行动，不仅可能导致现场冲突升级，也可能使中美两国陷入更严重的对抗局面。

AI人工智能专家Gary Marcus在社交媒体上评论道：“我确确实实告诉过美国参议院，AI生成的不准确信息可能导致一场意外战争。现在应验了。下一次我们可能就没这么幸运了。”

原文：toutiao.com/article/1876716883995660/

声明：该文仅代表作者本人观点