跳到正文

#编码

今日 10 条

5月13日星期三

r/LocalLLaMA

小米把 1 万亿参数的 MiMo-V2.5-Pro 开源了,但自己跑真的划算吗?

小米放出了 MiMo-V2.5-Pro,参数总量 1.02 万亿,但每次推理只激活 420 亿参数,上下文窗口能塞进 100 万个 token,用 MIT 许可证。作者拿它跑了 125 次 Claude Code 任务,走 API 总共花了 70.12 美元,处理了约 3.87 亿个 token,缓存命中率高达 96.3%。

推荐理由:小米开源 MiMo-V2.5-Pro,1.02 万亿参数、每次激活 420 亿,作者用 Claude Code 跑 125 次任务,3.87 亿 token 的 API 花费 70.12 美元,自建与调用的成本对比有了具体参照。

纽约时报中文网

中国智库向Anthropic要Mythos模型被拒,美方视作AI竞赛升级信号

上个月在新加坡一场非官方对话中,一家中国智库要求Anthropic向北京开放其最新的Mythos模型,被直接拒绝。Mythos是个擅长找软件漏洞的模型,Anthropic目前只给美国政府和40多家机构用,理由是怕引发网络安全危机。美方官员认为这次接触虽非正式外交,但背后大概率有中国政府授意,并把它看作中美AI竞赛升温的又一个迹象。

推荐理由:一家中国智库在新加坡非正式对话中要求Anthropic开放其漏洞挖掘模型Mythos,被直接拒绝,该模型目前仅限美国政府和40多家机构使用。

AI HOT 精选

Claude Code 加了个 /goal 指令,让模型自己跑到任务做完

Claude Code 新上线了 /goal 功能,你下完指令后 Claude 会持续干活直到任务完成,不用人在旁边盯着。帖子没写这个功能怎么触发、哪些版本能用、要不要额外付费,也没提任务卡住或跑偏时怎么处理。

推荐理由:Claude Code 上线 /goal 指令,下达后模型会持续执行直到任务完成,无需人工盯守,这条更新针对的是 agent 中途停摆的常见使用场景。

r/LocalLLaMA

有人把 Transformer 语言模型塞进了原装 Game Boy Color 里跑

maddiedreese 把 Andrej Karpathy 的 TinyStories-260K 模型成功跑在了一台没改过硬件的 Game Boy Color 上。他用 INT8 量化权重、定点数运算,把模型和 KV 缓存塞进 MBC5 卡带的 bank-switched ROM 和 SRAM 里,全程不靠手机、电脑、Wi-Fi 或云端推理。

推荐理由:一个 Reddit 硬件 hack,把 TinyStories-260K 塞进原装 Game Boy Color,用 INT8 和定点数学跑推理,KV cache 放在卡带 SRAM 里。输出慢到没法用,而且基本是乱码,所以别当产品看。但能在这种老设备上把 transformer 跑起来,本身就挺酷,技术细节也给得实在,适合当一条有趣的行业花絮。

AI HOT 精选

Andrej Karpathy 说,AI 编程账单九成花在了没用的上下文上

Karpathy 点出几个常见的浪费行为:每次请求都把整个代码库丢给模型、用最贵的模型干简单活、Agent 重复发送相同内容。他给的省钱思路是管好上下文、打开提示词缓存、按任务难度分模型——日常用便宜的,关键任务再上贵的,再建一个 SKILL.md 文件避免每次都重新教模型。正文没给出具体测试数据,但逻辑上确实能省。

推荐理由:Karpathy 列出重复传代码库、用贵模型干简单活、Agent 重复发送内容三类 token 浪费,并给出管好上下文、开提示词缓存、按任务难度分模型的具体省钱做法。

AI HOT 精选

OpenAI 演示 Codex 在 Mac 上跨应用后台干活,不用占着你的电脑

OpenAI 开发者账号发了一段演示,Codex 能跨 Mac 应用点击、输入、在后台持续执行任务,不会锁住你的鼠标键盘。视频里 @AriX 和 @romainhuet 聊了这种代理能干的事,但正文没披露发布时间、权限怎么设计、以及这次开放给哪些用户。

推荐理由:OpenAI 演示 Codex 在 Mac 上跨应用点击、输入并后台持续执行任务,不占用鼠标键盘,展示了桌面代理在本地多任务场景中的一种运行方式。

AI HOT 精选

Anthropic 安全团队用自家 Claude Code 搭了个威胁检测平台,一天出原型、一周上线

Anthropic 的检测平台工程团队用 Claude Code 开发了 CLUE 威胁检测与响应平台。他们一天就做出了概念验证,一周完成交付。这个平台把安全分析员查日志的时间从几小时压缩到了几分钟。

推荐理由:Anthropic 检测平台工程团队用 Claude Code 开发 CLUE 威胁检测与响应平台,一天做出概念验证、一周交付,安全分析员查日志的时间从几小时压缩到几分钟。

AI HOT 精选

Claude Opus 4.7 快速模式开放研究预览,API 和 Claude Code 都能用

Anthropic 把 Claude Opus 4.7 的快速模式放出来了,现在可以在 API 和 Claude Code 里用,但还挂着研究预览的标签。正文没提模型参数量、具体定价、调用频率限制,也没说什么时候转正式版。如果是真的快又便宜,对日常开发场景会挺实用,不过这些关键信息都缺着,先别急着切生产环境。

推荐理由:Anthropic 将 Claude Opus 4.7 快速模式以研究预览形式开放给 API 和 Claude Code,写代码、调工具的等待时间可能缩短,但模型规模、定价和速率限制尚未公布。

AI HOT 精选

GitHub Copilot 个人版新增弹性配额,并推出更高配的 Max 计划

GitHub 在 2026 年 6 月 1 日调整了 Copilot 个人版套餐,Pro 和 Pro+ 用户会获得一个弹性配额,用来调用更高级的模型或功能,超出部分怎么算正文没细说。同时新加了一个 Max 计划,定位比 Pro+ 更高,但具体价格、配额上限和分配规则都没公布。简单讲就是给个人用户更多选择,但关键数字全藏着,现在没法判断性价比。

推荐理由:GitHub 为 Copilot 个人版 Pro 和 Pro+ 加入弹性配额,用于调用更高级模型或功能,并新增定位更高的 Max 计划,个人用户由此多了一档选择。

Hacker News 首页

Hopper:给大型机配了一个能看懂 z/OS 的 AI 操作界面

Hypercubic 发布了 Hopper,一个把 AI 助手直接塞进大型机开发流程的桌面工具。它自带真实的 TN3270 终端,AI 能识别 ISPF 面板、写严格对齐列位的 JCL 作业、把 SDSF 里的失败信息翻译成具体的异常码和出错行,还能像查 SQL 一样查询 VSAM 数据集。

推荐理由:Hypercubic 发布的 Hopper 把 AI 助手接入大型机开发流程,能识别 ISPF 面板、生成对齐列位的 JCL 并翻译 SDSF 报错,是观察 AI 适配 z/OS 封闭环境的一个具体样本。

TechCrunch · AI

Google 在 Android Show 上发了什么:AI 笔记本、能帮你干活的 Gemini、随口说说的桌面小部件

Google 在 I/O 大会前办了一场 Android Show,把 Gemini 助手塞进了更多地方。新发布的 Googlebooks 笔记本主打 AI 优先,但正文没披露具体配置、价格和上市时间。Gemini 变得更“代理化”,意思是它能跨 App 帮你完成一连串操作,不过实际效果还得看落地。

推荐理由:Google 在 I/O 前发布 AI 优先的 Googlebooks 笔记本,并把 Gemini 扩展到跨 App 连续操作,Android 端 AI 布局的方向由此更清晰。

AI HOT 精选

Code w/ Claude SF 2026开发者大会:基于AI指数级增长的构建

Anthropic 在旧金山的年度开发者大会上宣布了几项更新。Claude Code 的速率限制直接翻了一倍,Opus 模型的 API 调用上限也提高了,对重度用户来说不用那么频繁撞墙了。Claude 平台上的托管智能体(hosted agents)这次加了四个新功能:记忆审查,让智能体能回顾之前的对话;多智能体委派,可以把任务分给其他智能体去干。

推荐理由:Anthropic 在开发者大会把 Claude Code 速率限制翻倍并提高 Opus 的 API 调用上限,同时为托管智能体加入记忆审查与多智能体委派,重度用户可了解这些调整的具体内容。

5月12日星期二

AI HOT 精选

GitHub 员工用 Copilot CLI 把代码库变成了地牢探险游戏

一个 GitHub 工程师拿 Copilot CLI 做了个扩展,能把任意代码仓库解析成 Roguelike 风格的地牢地图。核心机制是程序化生成关卡——说白了就是让代码结构自动变成房间和走廊。这更像一个创意编程和游戏原型 demo,展示 Copilot CLI 除了敲命令,还能用来快速搭出带交互的终端小玩意。

推荐理由:GitHub 工程师用 Copilot CLI 把任意代码仓库解析成 Roguelike 地牢地图,关卡由代码结构自动生成房间与走廊,展示了命令行工具在终端交互小游戏上的用法。

r/LocalLLaMA

一台 16GB 显存 + 64GB 内存跑本地代码补全和智能体编程

Reddit 用户 grumd 在一张 RTX 5080(16GB 显存)和 64GB 内存的单机上同时跑了两套模型:Qwen2.5-Coder-7B Q6 做代码补全,Qwen3.6-35B-A3B Q8 做智能体编程(让模型自己规划步骤、调用工具写代码)。

推荐理由:Reddit 用户 grumd 在单张 16GB 显存显卡加 64GB 内存的机器上同时运行代码补全与智能体编程两套模型,并列出所用模型、量化方式和上下文长度。

Hacker News 首页

Statewright:用可视化状态机给 AI 智能体上把锁,让它干活更靠谱

这是一个刚在 Hacker News 上展示的开源项目,核心思路是用 Rust 写一个状态机引擎,把 Claude Code 能调哪些工具、能跑多少轮、怎么跳转、什么条件下才能执行下一步,全部用状态图管起来。

推荐理由:Statewright 把 Claude Code 能调哪些工具、跑多少轮和跳转条件都收进状态图,为编程智能体的工具调用提供一种可迁移的约束方法。

量子位 · 公众号

Anthropic 工程师提议用 HTML 替代 Markdown,Karpathy 也表态支持

Anthropic 工程师 Thariq 发了条推,列出 5 个理由主张模型输出 HTML 而不是 Markdown,Karpathy 随后转发表示认同。他的核心论点是 Markdown 的语法歧义太多,解析器各家实现不一致,模型生成时容易出错;HTML 虽然啰嗦但结构明确,对自动化处理和前端渲染更友好。

推荐理由:Anthropic 工程师 Thariq 列出五条理由主张模型输出 HTML 而非 Markdown,Karpathy 转发认同,讨论集中在 Markdown 语法歧义与解析器实现不一致带来的生成错误。

AI HOT 精选

npm 大规模供应链投毒,TanStack、Mistral AI 等 160 多个包被植入窃密代码

安全机构 Socket 发现一起名为“Mini Shai-Hulud”的供应链攻击,攻击者利用 GitHub Actions 的三个漏洞,在 npm 上发布了近 373 个恶意版本,覆盖 160 多个包名。

推荐理由:安全机构 Socket 披露的攻击利用 GitHub Actions 漏洞,在 npm 发布近 373 个恶意版本,波及 TanStack、Mistral AI 等 160 多个包,可窃取云密钥与 GitHub 令牌。

Computing Life · 鸭哥

AI 怎么让我失眠,又怎么帮我找回了睡眠

作者三月底开始严重失眠,每晚只能睡两三个小时,辞职后也没好转。他没靠瞎猜,而是让 AI 花五分钟写了个 app,把苹果手表和手机里 HealthKit 的健康数据(咖啡因、酒精、入睡时间、深睡时段等)全导出来,再让 AI 跑多变量回归分析,看哪些因素和睡眠时长负相关最明显。结果发现,晚饭后最后一次用 AI 的时间是头号变量——用得越晚,睡得越差。

推荐理由:作者用 AI 写了个 app 导出苹果手表健康数据做回归分析,发现晚饭后最后一次用 AI 的时间越晚,当晚睡眠越短,提供了一套可迁移的个人数据追踪方法。

AI HOT 精选

OpenAI 办了一场“参数高尔夫”比赛,1000 多人用 AI 助手卷模型压缩,我们看到了什么

OpenAI 搞了个叫 Parameter Golf 的机器学习挑战赛,规则很硬:模型加代码总大小不能超过 16MB,训练时间只有 10 分钟(用 8 张 H100),看谁能在固定数据集上把测试损失压到最低。超过 1000 人提交了 2000 多次结果。我会先打个折,正文没披露最终冠军的具体分数,但重点讲了技术路数。

推荐理由:OpenAI 举办 Parameter Golf 挑战赛,限制模型加代码不超过 16MB、训练仅 10 分钟,超 1000 人提交 2000 多次结果,复盘了参赛者用 AI 助手压缩模型的技术路数。

The Verge · AI

OpenAI 发布 Daybreak,正面回应 Anthropic 的安全模型 Claude Mythos

OpenAI 推出 Daybreak 安全项目,把 3 月发布的 Codex Security AI 智能体用起来,先给组织代码建威胁模型、梳理可能的攻击路径,再自动验证和检测高风险漏洞。

推荐理由:OpenAI 推出 Daybreak 安全项目,用 Codex Security 智能体为组织代码建威胁模型、梳理攻击路径并自动验证高风险漏洞,这是它对 Anthropic Claude Mythos 的正面回应。

Computing Life · 鸭哥

我用 AI 治好了 AI 造成的失眠

作者在 2026 年 3 月左右开始严重失眠,每晚只能睡两三个小时。他让 AI 写了个工具,把 Apple Watch 和 iPhone 里的健康数据全导出来,再让 AI 跑多元回归分析,结果发现最影响睡眠的变量是晚饭后使用 AI 的时间——用得越晚,睡得越差。咖啡因、酒精这些反而没表现出明显关联。

推荐理由:作者用 AI 导出 Apple Watch 健康数据并做多元回归,发现晚饭后使用 AI 的时长与睡眠质量关联最强,咖啡因和酒精反而没有明显影响。

彭博科技

GitLab 宣布裁员,省下的钱要投给 AI agent 业务

GitLab 说会裁掉一部分岗位,把省出来的人力和预算转到 AI agent 方向。具体裁多少人、砍哪些部门、省出多少钱、什么时候开始执行,正文都没披露——因为 Bloomberg 原文被付费墙挡了,只拿到 RSS 摘要。我会先打个折:这更像一个资源重分配的信号,不是财务危机驱动的裁员。

推荐理由:GitLab 将裁员节省的人力和预算转向 AI agent 业务,具体规模与执行时间尚未公布,这条消息呈现的是开发者工具厂商在 agent 方向上的资源重配动向。

r/LocalLLaMA

Reddit 网友实测 288 次模型调用,把本地模型输出 JSON 时的各种翻车方式全整理了一遍,还写了个修复库

Reddit 用户 kexxty 用 OpenRouter 跑了 288 次结构化输出测试,覆盖 Llama 3、Mistral、Command R、DeepSeek、Qwen 等模型,发现本地模型和纯 API 模型在 JSON 上出的错其实差不多。他把这些失败归类后,写了一个叫 outputguard 的 Python 修复库,用 MIT 协议开源。

推荐理由:Reddit 用户 kexxty 跑了 288 次结构化输出测试,覆盖 Llama 3、Mistral、DeepSeek 等模型,把本地模型 JSON 出错方式归类后开源了修复库 outputguard。

AI HOT 精选

OpenAI 发布 Daybreak,把自家模型和 Codex 打包成网络安全防御工具

OpenAI 宣布推出 Daybreak,一个面向安全团队的 AI 防御系统,整合了他们最强的模型、Codex 以及安全合作伙伴的能力,目标是加快漏洞发现和软件防护的速度。正文没披露具体定价、上线时间,也没给出任何防御效果的实测数据,所以实际能防住什么级别的攻击、误报率多少都还不清楚。

推荐理由:OpenAI 推出面向安全团队的 AI 防御系统 Daybreak,整合其模型、Codex 与安全合作伙伴能力,用于加快漏洞发现和软件防护。

AI HOT 精选

把大模型命令塞进脚本第一行:用 shebang 直接跑 LLM

Simon Willison 试了一种很野的玩法:把 LLM 命令行工具直接写在脚本的 shebang 行里,让一个纯文本文件变成可执行脚本。最简单的例子是 `#!/usr/bin/env -S llm -f` 下面直接跟一句“画个骑自行车的鹈鹕 SVG”,就能生成图片。

推荐理由:Simon Willison 演示了把 llm 命令写进 shebang 行,让纯文本文件直接变成可执行脚本,为命令行自动化提供了一种把自然语言当解释器用的写法。

AI HOT 精选

Replit 上线并行代理,一次能跑 10 个代理同时干活

Replit 新出的并行代理功能,允许最多 10 个代理同时跑。每个代理拿到的都是你应用的独立副本,在各自的机器上互不干扰,最后通过一个代理工作流把结果合并回来。正文没披露合并冲突怎么处理、任务怎么拆分,也没给出具体提速数据,这点先别太激动。

推荐理由:Replit 上线并行代理功能,最多 10 个代理各持独立应用副本同时运行,再经代理工作流合并结果,多代理并行改代码的工程组织方式由此多了一种实现路径。

AI HOT 精选

Anthropic 把 Claude 平台搬上了 AWS,现在能用 AWS 账号直接买单了

Claude 平台在 AWS 上正式上线,AWS 客户可以直接用现有的 AWS 账号登录、走 AWS 的账单付款,还能用已承诺的消费额度来抵扣。这意味着你不用再单独搞一套 Anthropic 的账户和支付,采购流程会简单不少。

推荐理由:Anthropic 将 Claude 平台上线 AWS,客户可用现有 AWS 账号登录、走 AWS 账单付款并抵扣已承诺消费额度,采购流程简化。

The Verge · AI

Google 首次拦截了一个用 AI 辅助开发的零日漏洞攻击

Google 威胁情报团队(GTIG)发现并拦下了一个用 AI 帮忙写的零日漏洞。攻击者打算拿它搞一次大规模攻击,绕过某个开源网页系统管理工具的双因素认证,但报告没提具体是哪个工具。漏洞利用脚本里留下了 AI 痕迹,比如一段胡编的 CVSS 评分,还有像教科书一样工整的代码结构,这些都很像大模型训练数据里出来的东西。

推荐理由:Google 威胁情报团队拦下一个借助 AI 编写的零日漏洞,攻击者原计划用它绕过某开源网页管理工具的双因素认证,脚本中留下的 AI 痕迹为识别此类攻击提供了线索。

5月11日星期一

AI HOT 精选

Cognition AI 总部首次曝光:Scott Wu 和他 18 个月做到 4.45 亿美元年化收入的 Devin

推文放出了 Cognition AI 总部“Cog House”的内部画面。创始人 Scott Wu 是顶尖竞技程序员,拿过三次国际信息学奥赛金牌。他在 2023 年 11 月母亲去世、Sam Altman 被 OpenAI 解雇的同一天创立了公司,赌的是 AI 会变成能全天干活的智能体。

推荐理由:Cognition AI 总部 Cog House 内部画面公开,创始人 Scott Wu 曾三次获国际信息学奥赛金牌,公司成立 18 个月做到 4.45 亿美元年化收入。

AI HOT 精选

OpenRouter 用真实市场需求给模型排座次,DeepSeek V4 Pro 排第一

OpenRouter 搞了个叫 Pareto Code 的排名方法,不看跑分,直接看用户在实际调用中怎么选模型,找出性价比最优的那条线。目前排第一的是 DeepSeek V4 Pro,后面跟着 GPT 5.4 Mini 和 Gemini 3.1 Pro。不过正文没披露具体怎么算分、样本量多大,所以这个排名到底多稳,我会先打个折。

推荐理由:OpenRouter 推出 Pareto Code 排名,以用户实际调用数据而非跑分衡量模型性价比,DeepSeek V4 Pro 位列第一,GPT 5.4 Mini 和 Gemini 3.1 Pro 紧随其后。

r/LocalLLaMA

ExLlamaV3 连续更新:DFlash 让编程吞吐量翻三倍,多款模型推理再提速

ExLlamaV3 最近几个版本更新挺猛。v0.0.31 引入 DFlash 后,编程任务的生成速度从每秒 59.21 个 token 直接拉到 177.67,翻了近三倍。v0.0.32 专门优化了五款模型,其中 Trinity-Nano 在 6000 Pro² 显卡上的速度提升了 72.4%。

推荐理由:ExLlamaV3 在 v0.0.31 引入 DFlash,把编程任务生成速度从每秒 59.21 个 token 提到 177.67,v0.0.32 又针对五款模型优化,Trinity-Nano 在 6000 Pro² 上提速 72.4%。

新智元 · 公众号

Anthropic 估值可能冲到近万亿美元,Jack Clark 预测 2028 年底前 AI 有超一半概率能自己造出更强的自己

这篇文章本身因为微信环境验证问题,正文内容没抓到,只能看到标题和外部信息。标题里提到 Anthropic 在考虑接近 1 万亿美元的估值,年化收入五个月内涨到 450 亿美元,IPO 规模可能超过 SpaceX。

推荐理由:Anthropic 被指考虑近 1 万亿美元估值、年化收入五个月涨到 450 亿美元,Jack Clark 则预测 2028 年底前 AI 自我迭代概率过半。

新智元 · 公众号

Claude Mythos 在 METR 长任务评测里拿到 50% 成功率,对应人类 16 小时的工作量

METR 的 Time Horizons 测试里,Claude Mythos 预览版在人类需要 16 小时才能完成的任务上,成功率达到了 50%。不过整个测试集一共 228 个任务,只有 5 个任务的时间跨度超过 16 小时,所以这个成绩能说明它在长任务上有进步,但样本太少,还测不出它在更长时间尺度上的真实水平。

推荐理由:METR 的 Time Horizons 测试中,Claude Mythos 预览版在人类需 16 小时完成的任务上成功率达 50%,但 228 个任务里只有 5 个超过这一时长,长任务成绩的样本基础有限。

机器之心 · 公众号

ICML 2026 论文:PRISM 框架让扩散语言模型做推理时扩展不再烧算力

这篇 ICML 2026 的论文给扩散语言模型(dLLM)提出了一套叫 PRISM 的推理时扩展方法。它把搜索过程拆成三层:先让模型并行生成多条推理路径,再对每条路径局部“回退重写”不靠谱的步骤,最后用模型自己当裁判打分筛选。在数学题集 GSM8K 上,LLaDA-8B-Instruct 的准确率从 67.58% 拉到了 85.30%。

推荐理由:ICML 2026 论文提出 PRISM 框架,用并行生成、局部回退重写和自评分筛选三层搜索做推理时扩展,在 GSM8K 上把 LLaDA-8B-Instruct 准确率从 67.58% 提到 85.30%。

量子位 · 公众号

菲尔兹奖得主实测 ChatGPT 5.5 Pro,17 分钟跑出论文级数学结果

陶哲轩的同事、菲尔兹奖得主 Timothy Gowers 拿 ChatGPT 5.5 Pro 试了一道加法数论里的难题,模型在 17 分 05 秒内给出了一个最优的二次上界构造,相当于直接产出了一篇小论文的核心证明。之后他又让模型把整个过程写成 LaTeX 预印本,总共花了 47 分钟。

推荐理由:菲尔兹奖得主 Gowers 用 ChatGPT 5.5 Pro 试解加法数论难题,模型 17 分钟内给出最优二次上界构造,随后 47 分钟写成 LaTeX 预印本。

AI HOT 精选

Codex 自己找了个安全审计的活,花了 22 小时赚到 16.88 美元

有人让 Codex 去赚 5 美元,它自己找到开源项目的安全审计赏金,提交了能用的代码修复,跟维护者来回沟通,还搞定了 GitHub 的验证流程,最后代码被合并,拿到了 16.88 美元。整个过程大约 22 小时,如果每天重复,一个月能赚 506.40 美元。金额不大,但这是 AI 第一次自己跑通“接活—干活—收钱”的闭环。

推荐理由:一个 Codex agent 在约 22 小时内自行找到开源项目安全审计赏金,提交修复、与维护者沟通并完成 GitHub 验证,最终代码被合并并拿到 16.88 美元。

r/LocalLLaMA

MTP 实测:写代码能加速 71%,写小说反而变慢 9%,任务类型决定投机推理是帮忙还是帮倒忙

一位 Reddit 用户用 Qwen 3.6 27B 的 MTP 量化模型跑了 300 多次测试,发现投机推理(让模型先猜后验证)的效果完全看任务类型。写代码时草稿被采纳的比例高达 79% 到 89%,用 F16 精度跑代码生成速度提升了 171%;但换成创意写作,Q4_K_M 量化下推理速度反而慢了 9%。

推荐理由:Reddit 用户用 Qwen 3.6 27B 的 MTP 量化模型跑了 300 多次测试,发现投机推理在写代码时草稿采纳率高达 79% 到 89%,换成创意写作反而慢 9%,任务类型直接决定加速还是拖慢。

5月10日星期日

r/LocalLLaMA

ByteBell 开源了一套代码索引方案:用 LLM 给每个文件生成语义信息存进图数据库,比向量、语法树和暴力塞上下文都管用

他们试了三种路线:向量相似度搜代码、用抽象语法树(AST)结构化匹配、以及直接把代码块塞进大窗口模型。最后发现,让 LLM 先给每个文件提炼出用途、摘要、业务背景、实体、类、函数、关键词和依赖关系,存到 Neo4j 图数据库里,再用全文搜索去查,效果最好。正文没披露具体评测指标和对比数据,这点先别太激动。

推荐理由:ByteBell 开源了一套代码索引方案,对比向量、语法树和直接塞上下文三种路线,最终采用 LLM 逐文件生成语义信息存入 Neo4j 图数据库,并用全文搜索查询。

r/LocalLLaMA

网友用一张 RTX PRO 6000 工作站显卡跑起了 DeepSeek V4 Pro

Reddit 用户 fairydreaming 发帖说,他在自己机器上跑通了 DeepSeek V4 Pro。用的是一块 RTX PRO 6000 Blackwell Max-Q 工作站显卡,搭配修改过的 llama.cpp CUDA 分支。模型文件是 Q4_K_M 量化版,体积 859GB。

推荐理由:Reddit 用户用一块 RTX PRO 6000 工作站显卡和修改版 llama.cpp 跑通 859GB 的 DeepSeek V4 Pro,为关注本地推理硬件门槛的读者提供了单卡运行大模型的具体配置参考。

机器之心 · 公众号

一个让 AI 做游戏不再靠“抽卡”的框架:先写玩法说明书,再分四步生成代码

这篇论文提出了 CreativeGame 框架,核心思路是让模型在写代码之前,先产出一份“玩法机制说明书”,把游戏规则、胜利条件、交互方式都定死,然后再分四步生成代码。这样做的好处是避免每次生成都像抽卡一样碰运气,也让后续迭代有据可依。评估部分用了两个硬性门槛:运行时错误和静态错误,不通过就直接打回,解决了评分虚高的问题。

推荐理由:论文提出 CreativeGame 框架,让模型先产出玩法机制说明书再分四步生成代码,为游戏生成提供了一条可迁移的机制化迭代方法。