跳到正文
AI HOT 精选

DeepSeek 发布 V4.1-Flash,把 AI 智能体的内存开销砍到前代的四分之一

DeepSeek 发布 V4.1-Flash,大幅降低 AI Agent 的 KV cache 内存需求

DeepSeek 新模型 V4.1-Flash 主要解决长文本处理太烧钱的问题。它把 GPU 高速内存里的 KV 缓存(模型处理过的上下文暂存区)压到了前代 V4-Flash 的四分之一,卸载到硬盘或主机内存的部分更是缩到约八分之一。具体做法是把模型拆成编码器和解码器:读入信息时每 token 只激活 80 亿参数,生成文字时才用到 160 亿,输入端...

推荐理由:DeepSeek 发了 V4.1-Flash,专打 agent 场景的内存成本——KV 缓存压到前代的四分之一。给了具体架构数字,不是画饼。先放在 featured 而不是 p1,因为目前只有单一信源,还没形成交叉报道集群,而且正文没披露实际延迟和吞吐量,我会先打个折。

读原文 ↗导出 Markdown