热点事件持续更新
研究发现模型判断恶意代码时走道德路径
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
10月7日，Hacker News 首页报道一项研究：当模型被问及代码是否恶意时，其路由更接近道德判断路径，而非单纯的代码或漏洞判断路径。研究涉及 OLMoE、DeepSeek-V2-Lite 等三个开源模型，发现恶意问题的路由距离道德问题最近，加载道德路径的权重是正确性问题的数倍。研究还发现，尽管模型路由类似道德问题，其工作记忆解码出的概念却包括攻击者、恶意软件等，呈现出路由与解码概念之间的差异。
AI 根据报道生成 · 1 小时前更新
最新进展10月7日 01:20
研究在三个开源模型上发现，恶意代码判断的路由更接近道德问题。报道时间线
沿着报道，了解事件的不同侧面。
10月7日
- Hacker News 首页研究：问模型代码是否恶意，它会调用道德判断机制
研究发现，当被问及代码是否恶意时，模型走的是道德判断路径，而非单纯的代码或漏洞判断路径。在 OLMoE 和 DeepSeek-V2-Lite 等三个开源模型上，恶意问题的路由距离道德问题最近，加载道德路径的权重是正确性问题的数倍。模型路由像道德问题，但工作记忆解码出的却是攻击者、恶意软件等概念。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。