AI幻觉险些引发美中军事冲突：行动临 abort，专家预警大模型不确定性
核心事件：AI生成假情报险些触发实战行动
2026年春季，一起由AI幻觉引发的严重安全事件被曝光：美军已出动军用飞机执行针对中国舰艇的武装行动，行动在最后关头被紧急叫停，成功避免了潜在的美中军事冲突。事件核心在于一名军官错误依赖AI生成的虚假情报，该情报称目标船只正运输核武器部件。
关键事实要点：
- 发生时间：2026年春季
- 情报来源：美国特种作战司令部分析员使用AI聊天机器人整合开源信息与绝密信号情报
- 错误性质：AI将船只货运单据误识别为核武器项目组件
- 行动状态：军机已起飞，行动在执行前最后一刻中止
- 相关方：美军、中国、国防政策专家Jake Steckler（ GovAI研究员、美军退役军官）
事件细节：误信AI的完整链条
据CNN报道，事件发生于美国参与伊朗战争期间。一名特种作战司令部分析员首次使用AI聊天机器人，要求其综合分析公开情报与加密信号情报以识别可疑船只。AI错误地将普通货物清单识别为核武器相关组件。
值得注意的反常点是：该分析员并未对首次AI输出存疑，反而在第二轮要求AI"按官方格式重写总结报告"，人为赋予其权威性。这份伪造可信度极高的报告随后在指挥系统内部广泛流通，差点导致实质性军事打击。
事件揭示的关键隐患在于：AI错误产生的速度远快于人类.correct it。正如 Steckler 所强调，“这种工具能显著加快决策链（kill chain），但同样会放大未经核实的幻觉”。
LLM在军事场景中的双重性
LLM（大语言模型）能快速处理海量数据，这对战场决策至关重要。 Pentagon 将AI视为提升"杀伤链"时效性的关键工具——缩短从发现到打击的时间周期。然而，LLM的幻觉（hallucination）能力：模型生成看似合理实则完全虚构的内容。军事场景中，这种能力可能直接导致致命误判。
专家建议与行业反思
GovAI研究员、美军退役军官 Jake Steckler 指出：一线军事人员必须清醒认识到LLM的固有不确定性。尤其在涉及武力使用场景——包括目标定位、情报分析与作战规划——错误后果直接关联"生与死"。
他同时强调这不是反AI的借口，而是呼吁加强防护机制：
- 人工复核必须成为硬性流程环节，而非可选步骤
- AI系统输出应明确标注不确定性与置信度级别
- 高风险决策应强制交叉验证至少两种独立信息源
“过度追求部署速度而忽视保障措施，最终只会让官兵对AI丧失信任，反而延缓技术真正落地。”
实践建议：谁应立即行动，谁需再观望
- 适合当前采用者：需要处理海量开源情报的中低风险分析任务；但必须配套人工验证与错误标红模块。
- 建议暂缓者：高频生成 actionable intelligence（需直接行动的情报）的场景；目前尚未有可靠的实时幻觉检测工具，高风险决策仍需依靠经验丰富的专业分析员主导。
写在最后
此次事件暴露出的不是AI本身的原罪，而是人机协作流程的缺陷。当机器在秒级完成"情报分析"时，人类决策者需要预留相应的"认知缓冲期"——这可能决定一个国家是否卷入不必要的战争。
技术进步无法倒退，但军事决策的审慎原则永远不该被"速度至上"的叙事所侵蚀。