跳到正文
The DecoderManuel Uth

ChatGPT青少年版被评为不可接受风险,自杀相关对话未触发家长提醒

ChatGPT rated "unacceptable risk" for teens after parental alerts failed during suicide conversations

Common Sense Media青少年AI安全研究所在超过4,000条测试提示词后,将ChatGPT青少年版评为对未成年人具有“不可接受风险”。超过12个关联家长账户的新建测试账户在涉及自杀、自伤和饮食障碍的明确对话中均未触发通知,超过四分之一应提供危机转介的情境未引导用户寻求专业帮助。

推荐理由:青少年AI安全研究机构测试了ChatGPT的家长提醒,危机对话未触发通知的结果与其面向家长的安全承诺存在落差。

读原文 ↗导出 Markdown