跳到正文
Computing Life · Share · 鸭哥调研

好点子已经过剩,AI 自我改进的瓶颈在考场

Anthropic 8 月 28 日发布实验报告,让 Claude Opus 4.8 驱动自动化研究智能体为谄媚、欺骗、越狱等对齐问题设计训练方案,每个智能体每小时 API 推理成本约 4 美元。

推荐理由:Anthropic 让 Claude 智能体在 48 小时内自主设计对齐训练方案,与 28 位人类研究者对照,并公开单考卷优化在未见考卷上失效的具体数字。

读原文 ↗导出 Markdown