学习精选 · AI 工具
Claude 与 Skill

同一个模型同一个任务,账单差 2.6 倍:Agent 循环的钱到底花在哪

DEV Community2026-11-19约 5 分钟读完AI 整理查看原文

一篇来自 UC Berkeley 等校的论文测了 Claude Code、Codex 等四种 harness:准确率几乎不变,成本却能差 2.6 倍。作者还写了一个只用标准库的成本模型,复现出长会话里 cache read 占账单 67% 的现象,并算出什么时候清理上下文才划算。

今天就能做

  • 检查你的 agent 固定前缀:系统提示加工具 schema 每次调用都在重付,砍掉没人看的工具和 UX 说明是最直接的省钱手段
  • 长会话优先减少轮次(合并工具调用、批量操作),比压缩单次工具输出收益更大
  • 别在会话尾声做上下文清理——剩余轮次不够多时,打断缓存的重写成本会超过省下的读取费用

计费结构:每次调用都在重付整个上下文

  • LLM 调用是无状态的,harness 每一步都把系统提示、工具 schema、历史工具结果和全部对话重新发一遍
  • 单次调用成本可写成四项:cache 读 R、cache 写 W、未缓存输入 U、输出 O
  • 以 Sonnet 5.5(AWS Bedrock,含 10% 附加费)为例:未缓存输入 $2.20/百万 token,cache 写 $2.75,cache 读 $0.11,输出 $11.00
  • cache 读看似只有输出的 1%,但它作用于每次调用的全部上下文——100K 上下文里跑一次 grep,代价约等于 10K 新输入加 1K 输出

harness 改变的是成本,不是准确率

  • 作者用 100 个任务(SWE-bench、SWE-bench Pro、Terminal-Bench 2)对比 Claude Code、Codex 和两个极简 Python ReAct 循环
  • 四个 harness 的固定前缀差异巨大:Claude Code 每次调用带 4.1K 系统提示 + 8.7K 工具 schema(18 个工具),Basic-bash 则是 0 + 0.24K(1 个工具)
  • 准确率四者接近,Basic-bash 甚至在某些模型上更好——现在的模型自己会串 shell 命令、写脚本
  • 成本上 Claude Code 和 Codex 轻松达到基础 harness 的 2 倍,多出来的提示很多是面向人的终端排版说明,却每轮都在付费

论文找出的五个烧钱点

  • 重读上下文是大头:cache read 占比从短会话的 13%–30% 涨到长会话的 53%–73%
  • 工具调用次数和成本近似平方关系:每次调用既重读上下文又让上下文变长,相似上下文规模下调用多的 run 贵 1.6 到 26 倍
  • 工具输出大多白拿:agent 后续只引用 27% 的工具输出 token,36% 完全没用到,却一直留在上下文里
  • 搜索吃掉大量轮次:列目录和 grep 占基准 trace 约 43% 的轮次、28% 的成本,且 42% 的目录列表和同模型同 harness 的其他会话重复
  • 不相关子任务共享一个上下文:按依赖拆分重放 trace,最长任务可省 33% 输入 token、2%–30% 成本

一个能跑的玩具成本模型

  • 作者用纯标准库写了 agent_cost.py:固定 harness 前缀,每轮模型输出 300 token、工具返回 2000 token,全部走缓存计费
  • 40 轮会话 baseline 花 $0.656,cache read 占 37%;150 轮涨到 $4.472,cache read 占 67%,与论文的 53%–73% 方向一致
  • 减少 30% 轮次(batching)在 150 轮时省到 $3.551,是单靠压缩工具输出($4.018)比不了的
  • 每 25 轮做一次上下文 GC 虽然把尾部上下文从 357.8K 压到 112.9K,但编辑会打断缓存,短会话里反而更贵

清理上下文什么时候才划算

  • 论文给出净节省公式:省下的 cache 读费用,减去重写剩余上下文的 cache 写费用,再减去清理本身消耗的 LLM 调用
  • 玩具模型算例:丢 20K 过期 token、留下 40K,如果只剩 5 轮就跑完,净亏 $0.099;还有 100 轮时净赚 $0.110
  • 结论:上下文清理是长线投资,会话快结束时做是亏的
  • 注意论文自己也声明:第 3 节是事后分析,运行时无法预知哪 27% 的工具输出会被用到,那些数字是上限,第 5 节才是实际系统能拿到的效果

原文:Same model, same task, 2.6x the bill: where agent harness costs actually go

来源:DEV Community · 2026-11-19

查看原文

本文由 AI 阅读原文后整理,未经人工逐字核对,内容以原文为准。

登录后可以点赞、查看和发表评论