Anthropic 把开源对齐测试工具 Petri 捐给了独立机构 Meridian Labs

捐赠开源对齐工具 Petri

Anthropic 把自家用来测模型有没有撒谎、拍马屁、配合危险请求的开源工具箱 Petri，转交给了非营利评测机构 Meridian Labs。这么做是为了让工具脱离 AI 公司，评测结果更中立、更让人信服。Petri 从 Claude Sonnet 4.5 起就参与内部对齐检查，英国 AI 安全研究所也用它来评估模型会不会破坏 AI 研究。这次同步...

推荐理由：Anthropic 把对齐测试工具 Petri 捐给 Meridian Labs，条件是保持独立性和公信力，这件事本身就挺有意思——相当于把裁判权从自己手里交出去。Petri 3.0 的核心改动是把审计模型和目标模型拆开，Dish 能接真实部署环境，再加上 Bloom 做行为评估，让独立审计有了实操基础。正文说多轮 VQA 压缩 90% 视觉 Token 精度不掉，这个数字如果经得起第三方复现，确实挺省钱。不过目前还没看到独立验证结果，我会先把这个判断挂在信息缺口上。整体来看，这件事对做多模态推理优化和安全评测的人都有参考价值，放在 feature...