跳到正文
TechCrunch · AI

AI 幻觉差点触发美军军事行动

AI hallucination nearly triggers US military operation

今年春天,美军一次针对中国船只的武装行动在最后一刻被叫停,因为官员发现情报是 AI 聊天机器人瞎编的。CNN 报道说,当时飞机已经起飞,行动依据是 AI 编造出的“船上载有核武器部件”的说法。一位 GovAI 的研究学者警告,军人必须理解大语言模型天生就带着不确定性,不能把它的输出当事实。

推荐理由:美军一次针对中国船只的武装行动因情报实为AI聊天机器人编造而在最后一刻叫停,飞机已经起飞。这条呈现大语言模型输出进入实战指挥链时缺少事实核查的环节。

读原文 ↗导出 Markdown