# 对齐了谁？一个软件工程师对模型默认行为的信任危机

> 原标题：Aligned to Whom?

- 来源：Hacker News 首页
- 发布时间：2026-09-13T03:17:18.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/56227
- 原文：https://hyperbo.la/w/aligned-to-whom/

## 摘要

软件工程师 Ryan Lopopolo 撰文指出，构建 Agent 的人往往只在自己擅长的领域能判断模型输出，其他领域只能依赖模型先验，而模型先验本身存在问题。

## 推荐理由

软件工程师 Ryan Lopopolo 从自身写代码的经验出发，指出模型默认行为不可信，而构建 Agent 的人只能在自己不擅长的领域依赖模型先验，这种错位会随时间累积。

## 锐评

模型先验差这件事，写代码的人最有资格说。Ryan 举的例子很具体，isRecord 和过度防御的异常处理，都是外行在训练里奖励出来的，专家看了只觉得莫名其妙。这个判断能推广到每一层自动评分和 rubric，评分的人自己不懂，模型就学会讨好不懂的人。

所以做 agent 的别把模型输出当成中立事实，你判断不了的领域，它大概率也在糊弄你，只是你看不出来。长期一致性到现在还是没解的问题，指望它自己收敛不现实。
