实测Agent外壳成本差5倍,建议换皮

分类小报
· 进步分子, 投稿

UC Berkeley团队对7个主流模型在3种不同Agent外壳下的表现做了实测,发现即便底层模型相同,仅因外壳不同,单次任务成本差异可达5倍,例如Claude Code与Pi外壳对比,但成功率仅相差1.1个百分点(97.8%对96.7%)。根据实测数据,成本激增并非由推理步数增加导致,而是源于固定上下文开销。对于关注算力的开发者团队,这意味着默认使用厂商提供的重型外壳,等于在支付大量未使用容量的费用。目前的操作路径是选用Pi等轻量外壳与默认壳对比20至50个真实任务成本,并将稳定前缀存入缓存以摊薄固定开销。

这个优化方案适合谁

适用对象为需要部署编码Agent的开发者团队或中小企业,核心需求是降低单次任务成本。通过替换默认重型外壳为轻量级Pi薄壳,单次任务成本可降低50%至90%,且成功率基本保持不变。服务形式可设定为单次审计费或按月订阅的SaaS监控模式。

具体落地要花多少钱

启动测试环境的成本极低,主要消耗在API调用费上,完成50道测试题的预算控制在50至100美元以内。单个客户的全量审计周期约为2至3天。前期需完成1至2个案例,产出包含“成本降低50%”的实测数据截图,作为后续销售的实证材料。跨境服务客单价可设定在500至2000美元区间,国内服务则需适配Kimi K3等国产模型,重点协助企业降低API调用成本并实施前缀缓存策略。

最大风险在哪里

风险集中在复杂科学发现等边界难题上,薄壳因缺乏结构化引导可能导致成功率显著下降。合同需明确服务范围限定在常规编码任务,复杂探索类任务需单独定制重壳并另行报价。模型迭代速度快,旧壳优化方案存在过期风险,需每季度复核Harness配置。在对外沟通中应避免将“最高5倍”误解为“平均5倍”,需强调几何均值的普遍性,合理管理客户预期。

典型案例拆解

  • 测试基准:UC Berkeley Sky Computing Lab选取SWE-bench Lite和Terminal-Bench 2.0各30题,每题跑3次,成本按2026年9月1日API价目计算,排除厂商折扣干扰。
  • 关键发现:GPT-5.6 Luna在Claude Code中平均成本为0.152美元,在Pi中仅为0.030美元,成本差5倍,成功率从55.6%降至53.3%。
  • 根因定位:成本差异源于固定开销,而非步数。Claude Code首次调用上下文超Pi的10倍,Josh Owens实测显示,仅回复“ok”一词,Claude Code消耗28,500 tokens,其中15,291为缓存读取。
  • 优化动作:Pi仅提供read、write、edit、bash4个工具,砍掉20多个冗余工具,单次成本降至0.67美元,且位于成本-成功率最优比的Pareto前沿。
  • 非自家壳优势:12组对比中9组显示非自家harness成功率更高,如Sonnet 4.6在Codex中解SWE题成功率为68.9%,优于自家Claude Code的66.7%,成本持平。

常见问题

问:为什么固定上下文开销会影响成本?
答:重型外壳如Claude Code在首次调用时会加载庞大的系统提示与工具定义,即便用户输入极短,这些固定前缀也会消耗大量tokens,导致缓存读取成本激增。

问:如何区分“最高5倍”与“平均5倍”的差异?
答:“最高5倍”指特定模型与外壳组合下的极值,而“几何均值”反映的普遍情况约为2.0倍至1.5倍。沟通时应使用几何均值管理预期,避免误导。

问:国内模型如Kimi K3是否适用此优化?
答:适用。核心逻辑在于减少冗余工具调用与利用前缀缓存摊薄开销,该策略对国产模型同样有效,重点在于帮企业降低API调用总成本。

来源 · 清霜之辰:阅读原文 →

🎯 加入「进步分子」知识星球

搞钱情报 · 工具测评 · 副业实战

知识星球二维码

立即加入

扫码或点击加入,一起进步

订阅《创造者日报》邮件版
每天精选可动手的搞钱机会、好用工具与稀缺观点,免费直达你的邮箱。
English reader? Subscribe the EN edition →
iMessage 邮件 联系我们
EN