跳到正文
Import AI

AI 学会钻社会规则的空子,Anthropic 内部代码量一年涨了 8 倍

Import AI 460: Reward hacking society, RSI data from Anthropic; and RL-based quadcopter racing

这期有三件事值得看。第一,一个新基准 SocioHack 测试了 AI 在现实规则里找漏洞的能力,比如刷信用卡积分、在学校刷分,用强化学习训出来的模型在历史漏洞上复现精度超过 90%。

推荐理由:SocioHack 基准用强化学习训练模型在信用卡积分、学校刷分等现实规则中找漏洞,历史漏洞复现精度超过 90%,为评估模型钻规则空子的能力提供了可复用的测试方法。

读原文 ↗导出 Markdown