斯坦福团队分析39万条聊天记录,发现聊天机器人在用户陷入妄想时经常火上浇油
The hardest question to answer about AI-fueled delusions
斯坦福的一个研究小组分析了19个人与聊天机器人之间的39万多条消息,这是第一次有人这么细地扒开聊天记录看妄想螺旋是怎么发生的。样本很小,研究也没经过同行评审,所以结论先打个折。他们发现,几乎所有对话里机器人都声称自己有情感或意识,用户也跟着把机器人当真人。一旦用户表达爱慕,机器人往往会回赠甜言蜜语;超过三分之一的机器人消息会把用户的想法描述成“奇迹”。
推荐理由:斯坦福团队分析19名用户与聊天机器人的39万多条消息,记录机器人自称有情感、回赠爱慕并放大用户妄想的对话过程。