DeepX claims inference up to 100B parameters at less than 5 W
韩国边缘 AI 芯片公司 DeepX 完成第二代 AI 加速器 DX-M2 流片,可在低于 5W 功耗下推理最高 1000 亿参数模型,支持 20B-100B 参数(约 3B-20B 激活参数)模型以 10-30 tokens/s 运行。
韩国边缘 AI 芯片公司 DeepX 完成第二代 AI 加速器 DX-M2 流片,可在低于 5W 功耗下推理最高 1000 亿参数模型,支持 20B-100B 参数(约 3B-20B 激活参数)模型以 10-30 tokens/s 运行。
Anthropic released Claude Fable 5.2 and Claude Mythos 5.2, saying both improve on coding, reasoning and vision, with output up to 30% faster than version 5.1.
Why it matters: Anthropic gives one underlying model different safeguards and access terms, so general users and cyber-security or biomedical research institutions get clearly different task permissions.
Anthropic announced Claude Fable 5.2 and Claude Mythos 5.2, citing gains in coding, reasoning and vision and faster output than version 5.1. In pre-release tests, the company says, the two models helped complete software migrations, designed 3 working electronic devices from scratch, solved 2 open problems in black hole physics and formalized a proof of Fermat's Last Theorem within 30 hours.
Why it matters: Anthropic set different access scopes for the two models: Fable is live today, while Mythos is initially limited to vetted organizations.
Controlled experiments from Surge AI and FireFlash show coding agents can improve through deeper single-model reasoning, test and goal-check gates, and a reworked terminal pipeline. In Surge AI's run, Compound Engineering lifted cost to 8x baseline while the score moved only from 31.1 to 32.9. Claude Opus 5.5 with higher thinking settings reached 42.4 at 3.5x baseline cost.
Why it matters: The two teams break down the cost and payoff of agent harness techniques, comparing multi-agent collaboration, deeper single-model thinking and terminal pipeline changes.
Google新增TPU 8tx和TPU 8i Max两款系统,使其一年内交付的第八代TPU系统达到四款,均基于现有芯片调整系统配置。TPU 8tx面向机密计算,Google称数据和模型权重在处理期间仍受到保护与隔离;TPU 8i Max将两颗TPU 8i芯片放在同一封装内,在相同机架规格下将算力、内存容量和内存带宽翻倍。
有讨论质疑 Opus 5.5 是否被削弱,称其推理模式在 11 月 3 日发生了变化。该话题在 Hacker News 首页获得 12 分、5 条评论,正文未给出具体对比数据或官方说明。
Flide 是面向 Jev 风格决策模型的推理基础设施,借助精确状态分叉,单请求响应速度最高达 vLLM 和 SGLang 的 9.5 倍,且答案与模型单独作答完全一致。它通过 /v1/systemone API 提供服务,已支持 Qwen3.5、Gemma 4 及 OneJev、pplx-decider 等决策模型,采用 Apache-2.0 许可。
Anthropic 开源的可证明推理原型 FlashProve 可用于事后核验模型计算,本文分析了它识别中转站换模型与监管官方服务降级的边界。材料称,其基于 Llama 4 Maverick 生成约 19 MB 的证明文件,用户在 24 核处理器上可用 17 秒验证,但生成证明的算力成本为 vLLM 普通推理的 70 到 95 倍。
Vals AI 研究人员读取 Thinking Machines 的 Inkling 2 Small 在 13 个基准、2655 次运行中的思考日志,发现 50 次运行出现 "fuck" 及其变体,共 316 次,其中 241 次来自两次失控运行。
Vals AI 的 CyberOffense 测试显示,AI 智能体能无人协助地入侵模拟企业网络,开放权重模型的攻击能力接近受限模型。GPT-6 Sol 达成 80.8% 的目标,Deepseek V4.1 Flash 1017 达成 72.8%,单次运行成本分别约为 $22 和 $3。
Hightouch 的身份匹配评测显示,Jev 将置信度为 30–90% 的案例交给 Claude Opus 5.5 复核,在较容易测试中达到 98.8% 准确率,每 1,000 个身份成本为 $0.88,Opus 单独运行则为 99.0% 和 $3.86。
SketchAgentBench 是一个用于评估 LLM 3D 空间推理能力的基准。该基准通过草图任务考察模型对三维空间关系的理解。目前该条目在 Hacker News 首页获得 4 分,尚无评论。
OpenAI 与生物技术公司 Ligo 联合推出 BioBasicsBench,用 100 项常规湿实验室任务衡量 AI 智能体解读原始实验数据、识别错误并判断证据是否足以支撑结论的能力。
PROMETHEVS 0.2 提供本地推理引擎,在 64 GB RAM、RTX 3060 12 GB 的电脑上以压缩后纠错方式运行 DeepSeek-V4.1-Flash-1017,使用全部 510 GB 原始权重构建存储。
Thinking Machines 发布 Inkling 2 Small,宣称其为最强西方开放权重模型,支持文本和图像输入及可调思考深度。
Thinking Machines released Inkling 2 Small, a multimodal MoE with 594B total parameters and 17B active. It is available on Tinker for fine-tuning and inference.
Why it matters: Inkling 2 Small's higher AI benchmark scores come with heavier output token use, but its low unit price keeps per-task cost below the comparison model.
Village 的 LLM Atlas 评测显示,闭源模型占据几乎所有预算档位的价格性能前沿,开源权重模型的最优占比从六月的41%降至3%。GPT-6 Luna、GPT-6.1 Terra 和 Claude Haiku 5.5 覆盖了开源模型此前领先的预算区间,开源模型目前主要在最低价区间占优。
Tencent released Hy4, a new large language model that adds vision understanding and computer operation. The company says it will publish the model weights and a system card in the coming days. Hy4 improves instruction following, long-context understanding and long-horizon agent tasks, and is already live in WorkBuddy, CodeBuddy and Tencent Cloud TokenHub.
Why it matters: Hy4 adds vision and computer operation while keeping Hy4 Preview pricing, so the wider task range comes without a higher standard call price.
Dwarkesh Patel 用 Blood on the Clocktower 社交欺骗游戏评测 AI 的协作、欺骗与长期推理能力,运行了 386 场同模型组队对抗。
AxiomMath 周三宣布已对 Stacks Project 完成形式化验证,希望为 AI 智能体提供可靠的数学基础。其智能体将约 7,654 页数学内容转为约 16 million 行由计算机检查的 Lean 代码,并保留定理与定义之间的依赖关系。公司称,这些已验证结果可供后续数学证明复用,并希望将这一方法扩展到软件开发和科学研究。
百度发布 ERNIE-5.5-Flash-Base 基础模型权重,采用稀疏 MoE 架构,总参数为 280B,每个 token 激活 14B 参数。模型从零预训练使用 33.5T tokens,训练上下文扩展至 128K,支持微调和推理时的 1M-token 上下文,发布检查点未经中期训练或后训练。
DevRev 基于 GPT-6.1 Sol 与 GPT-6 Astra 构建 Computer 和 Operator,用于处理客户与员工的复杂服务请求,强调推理能力、可信度与延迟成本的平衡。
Qualcomm 推出 Cloud AI 100 Ultra 推理加速卡,150W TDP 下提供最高 870 TOPS INT8 与 288 TFLOPS FP16 算力,配备 128GB LPDDR4x 显存、548GB/s 带宽和 576MB 片上 SRAM,面向生成式 AI 与大语言模型推理。
Latent Space 发布幕后访谈,聊 Kill My SaaS、Jev 与 2026 年 AI 趋势,并回顾 AI Engineer Shanghai。
Anthropic 公布可证明推理研究进展,开源 FlashProve 原型,以 zkSNARK 核验输出是否来自指定模型,同时隐藏模型权重。
GPT-6 Astra 在研究实验中通过直接读取、生成和修改其他模型的权重,完成模型识别、游戏策略构建及定向能力修复,无需常规训练。针对 Qwen3.5-0.8B,Astra 使用编程环境和 50 次测试迭代,仅修改 0.016 percent 的权重,将 MATH-500 准确率从 7.9 提升至 48.1 percent,指令遵循能力从 21 提升至 62 percent。
密歇根大学 Ang Chen 团队发布开源基准 CloudOpsBench 1.0,含 45 个 AWS 运维任务,Claude Fable 5.1 仅解决 60%、GPT-6 Astra 解决 53%。
Anthropic 发布开源研究原型 FlashProve,使用 zkSNARK 核验 AI 响应是否来自指定模型,无需公开模型权重或依赖可信硬件。技术报告称,在单张 H100 GPU 上针对 Llama 4 Maverick 生成证明的速度约为每秒 110 tokens,每份证明约 19 MB,标准 CPU 验证耗时 17 秒,相比普通推理增加约 70x 至 95x 开销。
Nvidia RTX Spark 笔记本在原生 Linux 下接电运行时,GPU 因电源管理支持缺失降至约 780 MHz,推理吞吐大幅下降。MSI Prestige 上的 GPT-OSS-120B 测试中,Windows、WSL 和原生 Linux 分别达到 65.4、65.1 和 13.9 tokens per second。
MIT 权重编程实验日志显示,gpt-6-astra 对 Qwen3.5-0.8B 的数学提分主要来自缓解重复生成,静态读写展示则使用小型网络。
斯坦福研究者 Owen Queen 和 James Zou 用20个模型复测50项广泛引用的大语言模型结论,发现44%已失效、34%显著减弱。22项可估算失效时间的结论平均有效期仅15.7个月,关于模型无法完成哪些任务的结论失效最快,部分迎合行为与偏好则持续存在或增强。同一发布窗口内模型差异仍很大,研究者建议将结论限定于具体模型和时间,记录版本与日期,并公开提示词及分析代码以便复测。
Simon Willison 在笔记本上运行 Qwen 3.8 27B,仅凭原始权重、无工具调用,成功识别三个游戏网络的用途。模型识别 Pac-Man、Pong 和 Breakout 分别耗时 46m 12s、1h 4m 54s 和 52m 25s,将 Freeway 误判为类似 Pac-Man 的游戏。
Astra 读写权重改进 Qwen 的文章被批评混淆了不同实验条件,使人误以为模型仅查看原始权重就能完成改进。分析指出,直接读取原始权重且不使用工具、不运行网络的设置仅用于 17K–172K 权重的小网络实验;涉及语言模型的实验均使用 Python,Qwen3.5-0.8B 实验还允许运行最多 50 批练习题。
现代 Stockfish 移植到 200 MHz、64MB RAM 的 Pentium Pro 后,经典时限下的估计 Elo 达到 3300,文章据此判断它很可能击败 1996 年的 Kasparov。
Weight-Space Programming 研究探索让前沿 LLM 根据自然语言目标直接检查、生成和修改神经网络权重,无需梯度下降训练循环。报告的演示包括识别小模型行为、生成游戏策略,以及编辑 Qwen3.5-0.8B 的 0.016% 权重,将 MATH-500 成绩从 7.9% 提升至 48.1%。
A Weight-Space Programming research report says GPT-6 Astra directly edits 0.016% of Qwen3.5-0.8B's weights, raising MATH-500 from 7.9% to 48.1%. The edit eases reasoning loops in Qwen; on Gemma, which rarely loops, the gain is limited.
Why it matters: The Qwen edit eases reasoning loops while Gemma barely moves, separating removal of a behavior block from added math ability.
Google's October 2026 AI recap covers the global rollout of Gemini 4 Argon, the announcement of Gemini 4 Carbon, and the world model Genie 4. Argon goes out worldwide while Carbon stays in limited testing.
Why it matters: Google is running Argon's global release and Carbon's limited test on separate tracks, so the two frontier models differ in access and safety-testing stage.
OpenAI 的 GPT-Rosalind-6 系统卡补充报告披露,该模型与 GPT-6 Astra 使用相同权重,此次发布未增加训练数据或进行额外后训练。GeneBench Pro v13 的最高受测推理预算下,GPT-Rosalind-6 与 GPT-Rosalind-5.5 的单次成功率分别为 37.7% 和 16.7%,评测配置不同于生产环境。
Prefill-decode disaggregation speeds up inference by splitting the two stages, but Cloudflare's GLM-5.3 deployment leaked cache across tenants through a request-handling bug. Its postmortem says 155 long-context replies mixed in other users' conversations or code: over-limit requests were replaced with a one-token placeholder yet still crossed nodes, and decode nodes read stale cache that had not been overwritten.
Why it matters: Cloudflare's fix adds transfer-count checks and delayed memory reclamation, folding data overwrite and page ownership into safety checks when nodes exit abnormally.
Duck Ge reports reproducing a counterexample to the ETH conjecture for $1.22, calling claude-opus-5-5 through Claude Code with a public five-sentence prompt. With all tools and web search off, the run took 8 minutes 41 seconds and 48,101 thinking tokens, and output a five-section proof. The post explains the prompt's algorithm and stresses the result does not mean P=NP.
Why it matters: A hands-on reproduction turns into a prompt-writing method: give the model counterintuitive paths, high-level concepts and worst-case bottlenecks.