持续学习时代:AI 不再训完就上线,而是边用边学
8 Predictions for the Era of Continual Learning
Dwarkesh Patel 认为,一旦模型能在部署后持续更新权重,整个 AI 格局就会变。他打了个比方:就像学萨克斯,光靠看前人的笔记永远学不会,模型也不能只靠会话间传小纸条来真正干活。这会直接冲击现在的监管思路——不能再指望上线前做一次安全检查就万事大吉,按月或按季度做风险巡检才更合理。对齐研究也得转向,从盯着冻结的权重,变成防止模型在持续更新中被...
推荐理由:Dwarkesh 在 AI 播客圈本身可信度就高,这篇是他自己的预测文章,不是访谈转述,观点浓度够。如果持续学习真的落地,确实会动摇现在的安全框架,K 和 R 都站得住。我会先打个折:持续学习还没成现实,但推演逻辑是通的,所以重要性给 78 不算虚高。