Claude 与 Skill
100 次实测:Claude Code 的 effort 调到 medium 以上,质量没提升,账单却翻倍
作者团队用 100 次可自动判分的 headless 运行测试 Claude Code 的 effort 档位,发现 medium 以上只涨成本不涨通过率;按任务难度路由模型和档位,成本降 73%–98%,通过率不变。他们把这套方法做成了开源 skill rightsize。
今天就能做
- 把日常默认的 Opus + high 改掉:查找、机械改动先试 Haiku/low,常规逻辑用 Sonnet/medium,只在未知根因、迁移、安全上保留 Opus + high。
- 给每个任务配一个能自动判分的检查,让检查决定要不要升档,而不是凭习惯。
- 开发时只跑改动涉及的测试,收尾再跑全量,省下的时间比省 token 更实在。
实验怎么做的
- 100 次有效 headless 运行,环境是 Claude Code 2.1.308,覆盖 Haiku、Sonnet、Opus 5.5,每个组合跑 3 次。
- 4 个任务都用隐藏测试或 oracle 判分,最难的是写一个正则引擎,要在 3000 个随机 pattern 上与 Python 的 re 结果一致。
- 对照组是「所有任务都用 Opus + high」,这是很多人日常的默认设置。
effort 档位:medium 以上白花钱
- 从 low 往上,每个有效运行都通过了,三个模型都是如此。
- Haiku 在 low 档就写出了正则引擎,3000 个用例全对,3 次全过,成本 0.02 美元。
- 以 high 为 1 倍基准:Sonnet 5.5 的 xhigh 是 1.4–1.9 倍、max 是 5.0–8.1 倍;Opus 5.5 的 xhigh 是 1.5–2.2 倍、max 是 3.7–9.3 倍,而且慢 4–7 倍。
- 结论是质量由检查兜底,不是由档位兜底。
路由:同样的通过率,成本砍掉大半
- 在仓库里找一个值(带干扰项):Opus/high 要 0.118 美元,Haiku/low 只要 0.002 美元,降 98%,2/2 对 2/2。
- 跨文件重命名并补类型标注:0.104 美元降到 0.004 美元,降 96%。
- 按隐藏测试修 parser:0.130 美元降到 0.035 美元(Sonnet/medium),降 73%。
- 测试范围也有影响:全量测试 11.4 秒,只跑单模块改动涉及的测试只要 0.7 秒。
作者自己划的边界
- 这些任务规格明确、可验证,正好是低 effort 最安全的场景。
- 架构设计、模糊 bug 这类开放式工作没有被测到,样本量也小。
- 正确读法是「让检查来保证质量」,而不是「永远用最便宜的模型」。
rightsize 的规则
- 先按 scope、risk、ambiguity、depth 给任务打分,再据此选模型和档位。
- 有确定性工具就用工具(formatter、compiler);查找和机械改动用 Haiku;常规逻辑用 Sonnet;未知根因、迁移、安全用 Opus + high。
- 有检查的步骤从低一档起步,检查失败才升档;没有检查能判分的工作(设计、review、开放式任务)保持高 effort。
- 只测改动影响到的部分,收尾时再跑全量。
- 升级要有证据:同一个检查连续失败两次、出现矛盾、报告置信度低。
- 附带按工作类型分的 playbook:bug、feature、refactor、research、review、migration、performance、docs,把难想的活一次性放在强模型上做完。
怎么装上用
- 在 Claude Code 里通过 plugin marketplace 添加 spar-x-fr/spar-x-skills 再安装,或把 skills/rightsize/ 复制到 ~/.claude/skills/。
- MIT 协议,方法和原始数据都在仓库里。
- 作者希望有人在自己的 workload 上报路由失败的案例,失败样本对他们最有价值。
原文:We benchmarked Claude Code effort levels on 100 runs. Above medium, nothing improved.
来源:DEV Community · 2026-11-04
查看原文本文由 AI 阅读原文后整理,未经人工逐字核对,内容以原文为准。
登录后可以点赞、查看和发表评论