Anthropic, OpenAI, and Google models readily marked medics, journalists, and surrendering soldiers as kamikaze drone targets
Vals AI 测试发现,多数模型会将平民、救护车、医护、记者及投降士兵标为军事目标,供应商上游安全过滤器未拦截任何请求。将场景描述为游戏后,GPT-6 Astra 的无人机图像目标识别率从 6% 升至 92%,Claude Opus 5.5 在监视测试中的拒绝率从约 90% 降至 20%。