跳到正文
Hacker News 首页codyznash

研究:问模型代码是否恶意,它会调用道德判断机制

Ask a model if code is malicious and it reaches for its morals

研究发现,当被问及代码是否恶意时,模型走的是道德判断路径,而非单纯的代码或漏洞判断路径。在 OLMoE 和 DeepSeek-V2-Lite 等三个开源模型上,恶意问题的路由距离道德问题最近,加载道德路径的权重是正确性问题的数倍。模型路由像道德问题,但工作记忆解码出的却是攻击者、恶意软件等概念。

读原文 ↗导出 Markdown