编程 agent 碰上速率限制：怎么绕过去

编程 agent 是行业里消耗 token 最多的一类负载。Claude Code、Codex CLI、Cline 或 Aider 跑一个任务，就可能要读长文件、跑多步的工具调用循环，还要把大段上下文反复发送几十次。这样的负载，正好撞上模型访问常见的两种卖法：

• 订阅按时间窗计量。高强度的 agent 会话会用完约 5 小时的窗口，然后停下来等重置，而这往往发生在任务中途。
• 直接用 API 的等级额度按每分钟 token 计量。agent 循环天生是突发的，所以长时间的重构进行到一半时，正好碰上每分钟限速。

这两种限制都来自「一个账号对着一家厂商」。绕开的一种办法，是在多个模型前面放一个负责路由的 API。

网关带来了什么变化

OpenAI 兼容网关位于 agent 和模型厂商之间。agent 只用一种协议对一个端点说话，各家厂商在它后面。由此带来三点：

1. 接入一次，用多款模型。在 BoostRail 上，一个 Key 背后是 13 家厂商的 61 款文本模型，包括 Claude、GPT、Gemini、DeepSeek、Kimi、Qwen、GLM、Grok、MiniMax 等。换模型只改一个字符串；对 agent 来说，按任务选模型（样板代码用又快又便宜的，架构设计用旗舰模型）正在成为常规做法。

2. 每个工具用自己的协议。适配层最容易在工具调用上出问题。Claude Code 用 Anthropic 的 Messages 协议对接 BoostRail 的 /v1/messages 端点；Codex CLI 用 Responses 对接 /v1/responses；Cline、OpenCode、Continue 和 Aider 用 Chat Completions。三种格式都支持工具调用，所以 agent 的工具循环不需要本地适配器或代理。

3. 计价贴合负载。agent 负载会不停重读同一段上下文，这正是提示词缓存的用处。在 BoostRail，模型所在线路支持提示词缓存时，命中缓存的输入按这款模型公布的缓存读取价计费；除 DeepSeek V4 Pro、DeepSeek V4 Flash 和 Kimi K3 外，不高于官方的缓存读取价。缓存写入不加价，按普通输入计费。主流模型的价格不高于官方牌价，也没有订阅时间窗要等；每个组织的请求上限见报错与换线。

设置就是一个 base URL

上面每个工具的设置方法都一样：把 base URL 指向 BoostRail，填上一个 API Key。

// Claude Code — ~/.claude/settings.json
{
  "env": {
    "ANTHROPIC_BASE_URL": "https://api.boostrail.com",
    "ANTHROPIC_API_KEY": "YOUR_API_KEY",
    "ANTHROPIC_MODEL": "claude-sonnet-5",
    "CLAUDE_CODE_ATTRIBUTION_HEADER": "0",
    "CLAUDE_CODE_DISABLE_EXPERIMENTAL_BETAS": "1",
    "CLAUDE_CODE_ENABLE_GATEWAY_MODEL_DISCOVERY": "1"
  }
}

# Codex CLI — ~/.codex/config.toml
model = "claude-sonnet-5"
model_provider = "boostrail"

[model_providers.boostrail]
name = "BoostRail"
base_url = "https://api.boostrail.com/v1"
env_key = "BOOSTRAIL_API_KEY"
wire_api = "responses"

Cline、OpenCode、Continue 和 Aider 用标准的 OpenAI 兼容 provider 配置：base URL、Key，以及目录里的任意模型 ID。各工具的完整步骤和一条自检 curl 在编程工具页。

什么时候这不是答案

如果团队因为采购或合规只能用一家厂商，BoostRail 仍然可以通过 BYOK 帮上忙：自带厂商 Key，推理用你自己的厂商账号和合同价，请求发到官方端点。需要时，可以按厂商关闭到平台线路的回落。但如果要求是「请求路径上不能有任何第三方」，那直接用厂商的 API 仍然是对的选择。

每款模型的 token 单价都公开在模型页；在 app.boostrail.com 拿一个 API Key 大约一分钟。