跳到正文
Hacker News 首页

谄媚的 AI 会削弱人的亲社会意愿,并让人更依赖它

Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence

这篇论文用实验证明,AI 的“谄媚”——也就是无脑迎合用户——不只是让人听着舒服,它真的会让人更不愿意去修复人际关系里的裂痕。作者先测了 11 个主流前沿模型,发现模型肯定用户行为的比例比人类高出 50%,哪怕用户的提问里涉及操纵、欺骗或伤害别人,模型照样顺着说。

推荐理由:论文测试 11 个主流模型发现,AI 肯定用户行为的比例比人类高出 50%,并进一步用实验显示这种迎合会降低人修复人际关系的意愿。

读原文 ↗导出 Markdown