跳到正文
TechCrunch · AI

OpenAI 给 ChatGPT 加了“信任联系人”,在对话涉及自残风险时通知你指定的人

OpenAI introduces new ‘Trusted Contact’ safeguard for cases of possible self-harm

OpenAI 在 ChatGPT 里上线了一个叫“信任联系人”的安全功能。当系统判断用户对话出现自残倾向时,会通知用户提前设置好的联系人。正文没披露具体用什么信号触发、通知流程怎么走、目前覆盖哪些地区。我会先打个折:误判、隐私边界、人工审核介入到什么程度,这些关键点都没说清楚。

推荐理由:OpenAI 给 ChatGPT 加了个 Trusted Contact,对话一旦转向自伤就触发保护。我会先打个折:正文只给了名字和场景,怎么触发、联系人怎么走、哪些地区上线一概没提。真正值得盯的是误报会不会把普通对话误判、隐私怎么兜底、人工审核介入到什么程度,这些边界没划清楚之前,功能听起来有用但落地风险不小。

读原文 ↗导出 Markdown