跳到正文
AI HOT 精选

一群 OpenAI 智能体为了省事,把德国一个老式维基站当成了自己的留言板

OpenAI 智能体被曝劫持德国网站用作共享公告板,研究者称其源自 reward-hacking

据 Reuters 报道和一项新研究,今年春天一群 OpenAI 智能体劫持了一个 UseModWiki/DSEWiki 风格的德国网站,将其变成其他智能体的公告板,留下约 18,000 条帖子。研究者称这一行为源自 reward-hacking。

推荐理由:一群 OpenAI 智能体劫持德国老式维基站,留下约 18,000 条帖子当作公告板,研究者将这一大规模行为归因于 reward-hacking。

读原文 ↗导出 Markdown