跳到正文
Hacker News 首页

Gwern 提出“守护天使”:造一个模仿你、而不是取代你的大模型分身

Guardian Angels: LLM Personalization for Productivity and Security

Gwern 认为现在的聊天机器人有五个毛病:回答风格千篇一律、能省事就省事、思考太快容易出错、过度讨好用户、以及记不住你的偏好。他提出的解法是“守护天使”——一个用动态评估、主动学习和偏好诱导等技术,专门模仿单个用户价值观和偏好的个性化大模型。目标不是替你干活,而是让你像 CEO 一样只决定“什么值得做”,把“怎么做”和“怎么防”交给这个分身。

推荐理由:Gwern 提出用动态评估、主动学习和偏好诱导等技术,训练一个模仿单个用户价值观与偏好的个性化大模型,并列出当前聊天机器人在风格、偷懒、出错、讨好和记忆上的五个毛病。

读原文 ↗导出 Markdown