Anthropic 警告可能即将达到递归自我改进门槛

Anthropic warns that it’s very close to RSI capability, aka self-building AI

Anthropic 在周一修订的 S-1A 文件中警告，未来模型可能即将达到其内部定义的递归自我改进（RSI）门槛。公司称，AI 辅助研发可能使模型能力进步快于安全、对齐和安保措施的完善，过去也曾在研发显著加速后才识别到这一情况。目前没有模型被认定超过该门槛，公司仍在评估数据，并考虑更新 Responsible Scaling Policy，以保持人类对前沿模型开发的控制。

推荐理由：Anthropic 在申报文件中警告 AI 辅助研发可能快于安全措施的完善速度，将递归自我改进的风险落到研发监督上。