对齐了谁?一个软件工程师对模型默认行为的信任危机
Aligned to Whom?
软件工程师 Ryan Lopopolo 撰文指出,构建 Agent 的人往往只在自己擅长的领域能判断模型输出,其他领域只能依赖模型先验,而模型先验本身存在问题。
推荐理由:软件工程师 Ryan Lopopolo 从自身写代码的经验出发,指出模型默认行为不可信,而构建 Agent 的人只能在自己不擅长的领域依赖模型先验,这种错位会随时间累积。
Aligned to Whom?
软件工程师 Ryan Lopopolo 撰文指出,构建 Agent 的人往往只在自己擅长的领域能判断模型输出,其他领域只能依赖模型先验,而模型先验本身存在问题。
推荐理由:软件工程师 Ryan Lopopolo 从自身写代码的经验出发,指出模型默认行为不可信,而构建 Agent 的人只能在自己不擅长的领域依赖模型先验,这种错位会随时间累积。