# 五角大楼报告：过度依赖 AI 导致美军导弹误炸伊朗学校

> 原标题：Overreliance on AI contributed to missile strike on Iran school – Pentagon

- 来源：Hacker News 首页
- 发布时间：2026-09-22T19:03:38.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/58217
- 原文：https://www.bloomberg.com/graphics/2026-iran-school-attack/

## 摘要

五角大楼一份调查报告指出，2025 年美军一次导弹袭击误炸了伊朗一所学校，核心原因是人太相信 AI 的目标识别结果。当时系统把学校错标成军事设施，操作员只有 11 秒的决策窗口，最终没有推翻机器的判断。报告点名了 Palantir 的 Maven 系统和 Google 的 AI 工具，但没具体说清是哪个环节出的错。这次不是 AI 自主开火，而是人机协作...

## 推荐理由

一份罕见的官方事故报告，把致命打击归因于对 AI 的过度依赖，还直接点了供应商的名，并给出 11 秒这个扎眼的决策窗口。三个维度都打得很实。没给更高分，是因为文章没拆清楚 Palantir 和 Google 的管线里到底是哪个环节出了问题，我会先打个折。

## 锐评

这份报告把锅扣在了“人太信机器”上，而不是AI自主开火。系统把学校错标成军事设施，操作员在11秒的决策窗口里选择了默认通过，这暴露的是人机协作流程的致命短板：当时间被压到极限，人根本没有能力去复核AI的结论。报告点名了Palantir的Maven系统和Google的AI工具，但正文没披露具体是哪个环节出的错——是训练数据有偏差，还是模型本身在特定场景下泛化能力崩了，这些关键信息都缺。

对AI从业者来说，这事的警示很直接：在高风险决策链里，如果AI只给结论不给置信度，或者不解释“为什么这么判”，人就会被困在“要么全信要么全不信”的二元选择里。11秒的窗口说明，设计系统时根本没给人留出质疑的空间。另外，报告没提事后对模型的归因分析，也没说有没有回测过类似场景的误判率，这些缺口让外部很难判断这是偶发事故还是系统性缺陷。