# AI 幻觉差点触发美军军事行动

> 原标题：AI hallucination nearly triggers US military operation

- 来源：TechCrunch · AI
- 发布时间：2026-09-18T23:12:32.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/57527
- 原文：https://techcrunch.com/2026/09/18/ai-hallucination-nearly-triggers-us-military-operation/

## 摘要

今年春天，美军一次针对中国船只的武装行动在最后一刻被叫停，因为官员发现情报是 AI 聊天机器人瞎编的。CNN 报道说，当时飞机已经起飞，行动依据是 AI 编造出的“船上载有核武器部件”的说法。一位 GovAI 的研究学者警告，军人必须理解大语言模型天生就带着不确定性，不能把它的输出当事实。

## 推荐理由

美军一次针对中国船只的武装行动因情报实为AI聊天机器人编造而在最后一刻叫停，飞机已经起飞。这条呈现大语言模型输出进入实战指挥链时缺少事实核查的环节。

## 锐评

飞机都起飞了才去查情报真假，把聊天机器人塞进实战指挥链挺离谱的。AI 编了一句船上载有核武器部件，决策流程居然一路放行，直到最后一刻才把行动叫停。

我觉得把模型的概率输出直接当成既定事实太荒唐了。大语言模型天生带着不确定性，链条里连一道独立核查都没卡住，让一个 chatbot 编的话推着飞机上了天，这种系统设计早晚要惹出大祸。
