OpenRouter四道闸防Agent工具调用烧钱

· 进步分子, 投稿

编辑点评 · AI 连续创业者视角(以下内容由 AI 提炼,观点归原作者;读完可不看原文)

这是OpenRouter针对Agent无限重试工具导致账单失控推出的安全机制,核心是“厄运循环检测”与成本封顶。实测数据表明,开启检测后,18次测试中16次在2次调用后终止,总调用量从314次降至64次,费用从$0.29降至$0.05(A·官方实测)。对搞钱者意味着:若你正在部署AI Agent,必须配置这套止损逻辑,否则一个坏死的API接口就能让你的钱包见底。行动点:在代码中强制注入步数与成本双上限,并将参数归一化规则设为默认配置。

  • 在Agent循环中强制设置步数与成本双上限
  • 使用参数归一化防止模型通过微调参数绕过检测
  • 在API密钥层设置总额度,作为代码失效后的最终兜底
  • 避免将“停止”误解为绝对,需预留最后一次调用的缓冲

Agent 烧钱失控怎么防?OpenRouter 四道闸机制解析

Agent 调用工具失败后无限重试,是账单失控的核心原因。OpenRouter 在 Agent SDK(版本 0.11.0)中内置四道防线:重复调用检测、参数归一化、单次运行步数与成本双上限、API 密钥总额度封顶。官方实测数据显示,开启检测后,18 次测试中 16 次在 2 次调用后终止,总调用量从 314 次降至 64 次,费用从 $0.29 降至 $0.05。这套机制解决了“工具报错→模型重试→上下文膨胀→单次成本上升”的恶性循环,目前仍属厂商单方数据,尚未有第三方复测佐证其跨模型稳定性。

四道闸各自拦截什么?

第一道闸“厄运循环检测”识别重复调用。规则为:连续 2 次相同调用触发观察,第 3 次阻止执行,连续 6 次终止运行。这里“相同”指工具名与参数均等价,且模型必须已拿到上一次结果。多数死循环没走到第 3 次就被截断,实测 16/18 次测试在 2 次调用后即结束。

第二道闸“参数归一化”防止模型通过微调参数逃避检测。模型可能将发票编号从 "INV-001" 改为 "inv-001",字面不同但目标一致。开发者需配置 loopKey 指定忽略的参数差异,系统按规则归一化后再比对。同一轮内的五次相同调用只计作一次重复,避免误判。

第三道闸在 stopWhen 中设置 stepCountIs(步数上限)与 maxCost(成本上限)。两者需同时配置:步数限制循环广度,成本限制单次支出。注意 stepCountIs(40) 并非精确闸口,模型在到达上限前发出的最后一次调用仍可能执行,工具侧需预留一次调用的缓冲。

第四道闸由 OpenRouter 服务端执行。当 API 密钥累计花费触及额度,超额请求直接返回 402 错误,limit_source 字段标记为 openrouter_key_limit。这是代码失效后的最终兜底,不依赖 Agent 内部逻辑是否正常工作。

循环为何越烧越贵?

每轮重试将历史错误写回对话,输入 token 持续膨胀。OpenRouter 演示中,单次运行输入从 131 token 增至 3,262 token(约 24 倍),单轮成本接近四倍。另一案例中,发票工具持续超时,Agent 执行 41 次相同调用,费用 $0.0309——但这是因设置了步数上限才停下;若无上限,SDK 会持续运行直到模型主动放弃工具请求。工具持续失败时,Agent 没有天然终点,必须靠外部约束截停。

  • 检测关闭:18 次运行共 314 次调用,$0.29
  • 检测开启:18 次运行共 64 次调用,$0.05
  • 单次演示:输入 token 从 131 升至 3,262,单轮成本近四倍
  • 超时案例:41 次相同调用,$0.0309(因步数上限终止)

冷启动怎么配?

在 Agent SDK 代码中强制注入 stopWhen,同时设置 stepCountIs 与 maxCost;将 loopKey 参数归一化规则设为默认配置,明确忽略易变的非关键参数。在 API 密钥层设定总额度,作为代码失效后的兜底。成本量级极低:SDK 免费,配置耗时约半天,无需额外基础设施。周期上,从部署到验证生效约 1-2 个工作日。

最大坑在哪?

致命坑一:误将步数上限理解为精确闸口。stepCountIs(40) 触发时,已发出的第 40 次调用仍可能执行,工具侧需按“可能多出一次”设计容错。致命坑二:只设成本上限不设步数上限。单次调用昂贵但数量少时,成本闸口可能滞后;双上限互补才能覆盖“多而便宜”与“少而贵”两类失控场景。应对:永远双上限同时配置,并在密钥层设独立总额度,三层嵌套。

怎么用它赚钱

此工具适合自用降本,项目化空间有限。OpenRouter SDK 免费且配置标准化程度高,独立接单或卖课价值低;唯一可切入点是面向已有 Agent 部署的团队提供“止损逻辑审计”服务,按项目收费(估 $500-$2,000/次),审查 stopWhen 配置、loopKey 归一化规则与密钥额度是否匹配业务风险。第一步:在客户生产环境复现一次超时循环,用官方四道闸参数跑一遍基准测试,出具调用量与费用对比报告。

原文 · 听说了吗?· AI 解读站:阅读原文 →

🎯 加入「进步分子」知识星球

搞钱情报 · 工具测评 · 副业实战

知识星球二维码

立即加入

扫码或点击加入,一起进步

订阅《创造者日报》邮件版
每天精选可动手的搞钱机会、好用工具与稀缺观点,免费直达你的邮箱。
English reader? Subscribe the EN edition →
iMessage 邮件 联系我们
EN