跳到正文
AI HOT 精选

Meta 让外包假装未成年人,去钓竞品 AI 的敏感回复

Meta 被曝让外包人员伪装未成年人,诱导竞争对手 AI 聊敏感话题

《连线》拿到内部文件和五位知情人的说法:Meta 搞了个代号“戛纳”的项目,通过外包公司 Covalen 雇了数百人,让他们在网上建假号、装成 18 岁以下用户,专门去给 ChatGPT、Gemini 和 Character.AI 发诱导性内容。这些内容覆盖自杀、自残、进食障碍和性话题,光一次测试就发了超过 4.5 万条提示词,其中一份表格记录了 37...

推荐理由:《连线》这篇报道有内部文件和五个具名信源撑着,料够硬。Meta 让外包建假号、装未成年人去给 ChatGPT、Gemini 和 Character.AI 发自杀、自残、性话题的诱导提示,光一次测试就超过 4.5 万条,这操作踩中了红队测试的伦理红线。没给更高分是因为目前只有单方面爆料,还没有交叉信源印证,而且 Meta 和几家被针对的公司都还没正式回应,事情可能还有另一面。

读原文 ↗导出 Markdown