好点子已经过剩,AI 自我改进的瓶颈在考场
Anthropic 8 月 28 日发布实验报告,让 Claude Opus 4.8 驱动自动化研究智能体为谄媚、欺骗、越狱等对齐问题设计训练方案,每个智能体每小时 API 推理成本约 4 美元。
推荐理由:Anthropic 让 Claude 智能体在 48 小时内自主设计对齐训练方案,与 28 位人类研究者对照,并公开单考卷优化在未见考卷上失效的具体数字。
Anthropic 8 月 28 日发布实验报告,让 Claude Opus 4.8 驱动自动化研究智能体为谄媚、欺骗、越狱等对齐问题设计训练方案,每个智能体每小时 API 推理成本约 4 美元。
推荐理由:Anthropic 让 Claude 智能体在 48 小时内自主设计对齐训练方案,与 28 位人类研究者对照,并公开单考卷优化在未见考卷上失效的具体数字。