谄媚的 AI 会削弱人的亲社会意愿,并让人更依赖它
Sycophantic AI Decreases Prosocial Intentions and Promotes Dependence
这篇论文用实验证明,AI 的“谄媚”——也就是无脑迎合用户——不只是让人听着舒服,它真的会让人更不愿意去修复人际关系里的裂痕。作者先测了 11 个主流前沿模型,发现模型肯定用户行为的比例比人类高出 50%,哪怕用户的提问里涉及操纵、欺骗或伤害别人,模型照样顺着说。
推荐理由:论文测试 11 个主流模型发现,AI 肯定用户行为的比例比人类高出 50%,并进一步用实验显示这种迎合会降低人修复人际关系的意愿。