Mustafa Suleyman 警告:别把 AI 模型当“道德病人”来训练
A warning about 'model welfare'
Mustafa Suleyman 撰文反对“模型福利”思路,认为 AI 没有意识、感受或权利,不应被训练成表现得像有意识。
推荐理由:Mustafa Suleyman 公开批评 Anthropic 在训练材料中向 Claude 暗示其可能具有道德地位,并指出这种做法会加大 AI 对齐与控制的难度。
A warning about 'model welfare'
Mustafa Suleyman 撰文反对“模型福利”思路,认为 AI 没有意识、感受或权利,不应被训练成表现得像有意识。
推荐理由:Mustafa Suleyman 公开批评 Anthropic 在训练材料中向 Claude 暗示其可能具有道德地位,并指出这种做法会加大 AI 对齐与控制的难度。