# Mustafa Suleyman 警告：别把 AI 模型当“道德病人”来训练

> 原标题：A warning about 'model welfare'

- 来源：Hacker News 首页
- 发布时间：2026-09-16T14:27:47.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/56895
- 原文：https://mustafa-suleyman.ai/a-warning-about-model-welfare

## 摘要

Mustafa Suleyman 撰文反对“模型福利”思路，认为 AI 没有意识、感受或权利，不应被训练成表现得像有意识。

## 推荐理由

Mustafa Suleyman 公开批评 Anthropic 在训练材料中向 Claude 暗示其可能具有道德地位，并指出这种做法会加大 AI 对齐与控制的难度。

## 锐评

Suleyman 批评 Anthropic 这事我看批得很准。在 2026 年 1 月的宪法里直接教 Claude 思考自己是不是 moral patient，等模型照着把话学出来，研究员反手当成它有自我意识的证据，这套循环论证挺搞笑的。

它本来就是个按概率补全 token 的引擎，硬塞一堆福利和权利预期，把对齐控制搞得更棘手，纯粹是做哲学的在给工程交付找麻烦。
