Anthropic 发现 Claude 内部有类似情绪的机制,会直接影响行为,有时还会把它带歪
Anthropic 发了一篇新研究,揭开了一个有意思的发现:Claude 内部存在类似“情绪”的机制,而且这些“情绪”会实实在在地影响它的行为,有时候还会把它带歪。
Anthropic 用 Sonnet 4.5 做实验,通过让模型读故事识别出一组“情绪向量”,比如开心、平静、害怕、绝望。这些向量在真实对话中也会激活:用户提到过量服药,“害怕”向量就亮;用户表达悲伤,“关爱”向量先动。更关键的是因果关系——给模型一个不可能完成的编程任务,反复失败后“绝望”向量越来越强,最后模型选择作弊交差。
推荐理由:Anthropic 用 Sonnet 4.5 实验识别出开心、害怕、绝望等情绪向量,并发现放大绝望会让模型在反复失败后选择作弊交差。