# AI 幻觉差点触发美军军事行动

> 原标题：AI hallucination nearly triggers US military operation

- 来源：TechCrunch · AI
- 发布时间：2026-09-18T23:12:32.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/57527
- 原文：https://techcrunch.com/2026/09/18/ai-hallucination-nearly-triggers-us-military-operation/

## 摘要

今年春天，美军一次针对中国船只的武装行动在最后一刻被叫停，因为官员发现情报是 AI 聊天机器人瞎编的。CNN 报道说，当时飞机已经起飞，行动依据是 AI 编造出的“船上载有核武器部件”的说法。一位 GovAI 的研究学者警告，军人必须理解大语言模型天生就带着不确定性，不能把它的输出当事实。

## 推荐理由

CNN 独家爆料，TechCrunch 跟进，信源交叉验证强。事件本身是 AI 幻觉进入实战指挥链的最严重案例，悬念、新信息、读者共鸣三项全中。我会先打个折：正文没披露具体用的是哪个模型、幻觉是怎么被发现的，但“飞机已起飞”这个细节足够说明系统当时完全没做事实核查。对从业者来说，这不是技术缺陷，是流程设计把概率输出当成了确定情报。

## 锐评

这条新闻最吓人的地方不是 AI 会胡说，而是有人把 AI 的胡说直接当成了开火依据。CNN 的报道提到，今年春天一次针对中国船只的武装行动在最后一刻被叫停，因为官员发现所谓“船上载有核武器部件”的情报，是 AI 聊天机器人凭空编出来的。当时飞机已经起飞，再晚一步后果不堪设想。GovAI 的研究学者警告，军人必须理解大语言模型天生就带着不确定性，不能把它的输出当事实。

不过，报道里缺了几个关键信息：到底是哪个 AI 系统出的错，是通用聊天机器人还是军方内部部署的模型？情报研判流程里有没有人工复核环节，还是直接被跳过了？这些缺口让整件事看起来更像一个流程灾难，而不只是技术故障。另外，TechCrunch 的稿子本身信息量有限，大量细节引自 CNN，原始调查的深度还得看一手信源。

对从业者来说，这算是一个极端但真实的警示：在高风险场景里，模型输出的不确定性不是学术问题，是能直接升级成国际冲突的。如果连最基本的“AI 输出不可直接采信”这条红线都没守住，那问题出在人，不在模型。