OpenAI 宣布收购 Promptfoo,要把安全测试直接做进 Frontier 平台
OpenAI to acquire Promptfoo
OpenAI 发公告说要收购做 AI 安全测试的 Promptfoo,交易完成后会把它的技术整合到企业级平台 Frontier 里。Promptfoo 的工具现在有超过四分之一的财富 500 强公司在用,主要帮开发者在模型上线前做安全评估和红队测试,比如检测提示词注入、越狱、数据泄露、工具滥用这些风险。
推荐理由:OpenAI 收购安全测试工具 Promptfoo 并整合进企业平台 Frontier,其工具已被超过四分之一财富 500 强公司用于模型上线前的红队评估。