跳到正文
OpenAI News

OpenAI 开源心理健康评测集 MentalHealthBench,联合 80 多位持证心理医生,测模型在真实对话里靠不靠谱

Introducing MentalHealthBench

OpenAI 放出了一个叫 MentalHealthBench 的开源评测集,专门看 AI 在心理健康对话里表现怎么样。这个评测集是和 22 个国家、80 多位持证心理医生和精神科医生一起做的,覆盖了从日常情绪倾诉到紧急危机干预的各种场景,还分了成人、青少年、照顾者等不同角色。它不只看模型有没有触发安全红线,更会检查模型会不会主动追问背景、有没有尊重用...

推荐理由:OpenAI 放出了一个开源的、由 80 多位持证临床医生参与构建的心理健康评测集,覆盖场景很全,而且检查维度比常规安全测试更细,比如会看模型有没有主动追问背景、有没有尊重用户。这对做 AI 安全和产品的团队来说,是个能直接拿来用的工具。没给更高分是因为它目前还是个评测工具,不是产品落地或重大技术突破。

读原文 ↗导出 Markdown