# Neuralwatt 解读智能体运行框架如何影响能耗与 token 效率

> 原标题：Why harnesses matter for energy (and token) efficiency

- 来源：Hacker News 首页
- 发布时间：2026-10-16T21:01:23.000Z
- AX AI 日报：https://ai-daily.ax0x.ai/items/zmif8e30d01hf3u1fh6groido
- 原文：https://neuralwatt.com/news/why-harnesses-matter-for-energy-efficiency

## 摘要

Neuralwatt 分析云端流量与实验请求发现，智能体运行框架修改既有提示词会破坏缓存，增加重复计算与能耗。相同模型、相近输入输出长度下，缓存基本未命中的请求能耗约为缓存命中请求的2倍，GLM-5.3约为2.5倍；上下文超过128k tokens时，一次大范围重读的预填充计算量约相当于600次普通轮次。

## 推荐理由

Neuralwatt通过逐条请求分析定位缓存失效原因，将稳定提示词前缀、追加状态变更归纳为减少智能体重复计算的方法。

## 锐评

在超过 128k 的 context 里乱改前面的 prompt，代价高得有点离谱。

一次大范围重读吃掉的 prefill 算力，能顶 600 次普通轮次，GLM-5.3 没命中缓存能耗直接飙到 2.5 倍。框架在前文顺手塞个时间戳或者更新状态，整段缓存全被废掉，延迟和电费全砸在里面。前缀老老实实焊死只往后追加，省下来的算力比挑小模型明显多了。