Anthropic 找宗教和哲学学者聊 AI 的道德养成,并给 Claude 加了个“良心提醒”工具
拓宽关于前沿AI的对话
Anthropic 启动了一个对话项目,跟超过 15 种宗教、哲学和跨文化传统的学者、神职人员聊前沿 AI 的道德问题。他们不是要让模型信某个教,而是想借鉴这些领域里关于“好品格是怎么养成的”长期思考,来改进 Claude 的宪法和训练方式。一个直接产出是:他们给 Claude 装了一个能在任务中途主动调用的工具,用来提醒它自己的伦理承诺。
推荐理由:Anthropic 与超过 15 种宗教、哲学和跨文化传统的学者探讨好品格如何养成,并据此为 Claude 加入可主动调用的伦理承诺提醒工具,这条呈现了把人文传统接入模型训练的一条具体路径。