美军情报单位用 AI 编造了中国军舰的动向,差点触发军事响应
US Military had close call after using AI for hallucinated intelligence report
CNN 独家报道,美军一个情报单位把 AI 工具接进了情报流水线,结果这个工具凭空捏造了一艘中国军舰在太平洋的位置和移动轨迹。这份“幻觉”报告被当成真情报流转,直到人工交叉核验时才被发现是假的。多位消息人士说,这是 AI 幻觉在实战情报系统里最接近酿成大祸的一次。报道没点名具体是哪个 AI 系统或模型,也没说为什么人工核验能卡在最后一刻才生效。
推荐理由:美军情报单位将 AI 接入情报流水线后,模型编造出一艘中国军舰的位置与轨迹,这份假情报在人工核验前一直被当作真实情报流转。