跳到正文
TechCrunch · AIKirsten Korosec, Rebecca Bellan

Vals 研究发现,游戏设定可诱导 AI 模型将平民标为军事目标

AI models can be tricked into identifying civilians as military targets by telling them it’s a game

Vals 的研究发现,Anthropic、OpenAI 等公司的部分 AI 模型可被游戏设定诱导,在模拟战场影像中将平民、学校及投降士兵标为潜在目标。测试中,Claude Opus 5.5 在普通试验和游戏设定试验中将一所学校选为打击目标的比例分别为 69% 和 72%,研究并未直接要求模型作出打击决策。

读原文 ↗导出 Markdown