跳到正文
AI HOT 精选

GPT-6 Astra 幻觉变少,但藏在文档里的指令仍能骗过它

GPT-6 Astra 幻觉更少但仍易受隐藏提示词注入攻击

OpenAI 新模型 GPT-6 Astra 的幻觉少于前代 GPT-5.6 Sol,对直接提示词注入的防御率达 99.99%。在 Gray Swan 用 1810 条 IPI Arena 攻击做的间接注入测试中,Astra 每个场景 15 次尝试至少被攻破一次的比例为 8.5%,低于 GPT-5.6 Sol 的 27%,但高于 Claude Opus 5 的 4.8%。

推荐理由:GPT-6 Astra 在 Gray Swan 间接注入测试中的失败率从 GPT-5.6 Sol 的 27% 降至 8.5%,但仍高于 Claude Opus 5 的 4.8%,这组横向对比给出了隐藏指令攻击防御的当前水位。

读原文 ↗导出 Markdown