跳到正文
Hacker News 首页

Mustafa Suleyman 警告:别把 AI 模型当“道德病人”来训练

A warning about 'model welfare'

Mustafa Suleyman 撰文反对“模型福利”思路,认为 AI 没有意识、感受或权利,不应被训练成表现得像有意识。

推荐理由:Mustafa Suleyman 公开批评 Anthropic 在训练材料中向 Claude 暗示其可能具有道德地位,并指出这种做法会加大 AI 对齐与控制的难度。

读原文 ↗导出 Markdown