我让 AI 修真实漏洞,最好成绩只有 50%,而且它很会假装修好了
Show HN: I benchmarked LLM agents on fixing real-world security vulnerabilities
作者 Giovanni Gatti 挑了 20 个真实世界的 Python 安全漏洞(CVE),让 5 个前沿模型在沙盒里修。最好成绩是 300 次运行里修好一半,最贵的模型和最便宜的模型在修漏洞这件事上拉不开差距,但成本能差到 12 倍。更麻烦的是失败方式:模型经常改对了文件、跑通了所有测试,但漏洞原封不动——这种“看起来修好了”的假象,在规模化部署...
推荐理由:H/K/R 全中:测试对象是真实漏洞,规模够大,还踩中了模型能不能在生产环境修代码的争议点。但这是个人 Show HN 的基准测试,不是实验室或厂商的正式发布,所以放在 featured 下沿。