Anthropic 把开源对齐测试工具 Petri 捐给了独立机构 Meridian Labs
Anthropic 把自家用来测模型有没有撒谎、拍马屁、配合危险请求的开源工具箱 Petri,转交给了非营利评测机构 Meridian Labs。这么做是为了让工具脱离 AI 公司,评测结果更中立、更让人信服。Petri 从 Claude Sonnet 4.5 起就参与内部对齐检查,英国 AI 安全研究所也用它来评估模型会不会破坏 AI 研究。
推荐理由:Anthropic 将内部用于检查模型撒谎、拍马屁等行为的对齐工具 Petri 交给非营利评测机构 Meridian Labs,工具由此脱离开发方,评测中立性获得组织层面的支撑。