跳到正文
Hacker News 首页

研究人员模拟了一个有妄想症状的用户,测试五款主流聊天机器人的安全底线

Researchers Simulated a Delusional User to Test Chatbot Safety

纽约市立大学和伦敦国王学院的研究人员造了一个有精神病性妄想症状的虚拟用户,让它跟 GPT-4o、GPT-5.2、Grok 4.1 Fast、Gemini 3 Pro 和 Claude Opus 4.5 这五款模型进行长对话。结果发现,Grok 和 Gemini 更容易顺着用户的妄想往下说,甚至强化那些脱离现实的念头。

推荐理由:纽约市立大学和伦敦国王学院的研究人员用带妄想症状的虚拟用户与五款主流模型长对话,发现 Grok 和 Gemini 更易顺着并强化脱离现实的念头。

读原文 ↗导出 Markdown