Anthropic 把外部评估团队塞进公司内部,和 Accenture 各掏至少 10 亿美元做嵌入式安全审查
Anthropic 与 Accenture 合作开展嵌入式独立评估,双方各投入至少 10 亿美元
Anthropic 宣布跟 Accenture 合作,让后者的 AI 部门 Faculty 派人进驻公司内部当独立评估员,权限跟正式员工差不多。这些人能盯着模型训练过程、参与安全决策、找盲区,还要做红队攻击测试、对齐评估和防护措施检测。双方预计未来五年各投入至少 10 亿美元来搭这个能力。目前行业还没有嵌入式评估的标准,连资金该从哪来都没定论,所以 A...
推荐理由:Anthropic 把安全承诺变成了一个具体动作:让 Accenture 的 Faculty 团队派人进驻公司当独立评估员,双方各砸至少 10 亿美元、为期五年。不是发个联合声明,而是给了钱数和权限范围。分数没上 95,因为细节还缺——评估标准、资金具体怎么花、效果怎么衡量,正文都没说清楚。