使用场景
同时用多个模型的产品
组合使用多个模型的产品,常见做法是常规步骤用快的模型,难的任务用更强的模型,再请另一家厂商的模型给第二意见,结果往往攒下好几个账号、Key、SDK 和发票。在 BoostRail,一个 Key、一笔余额、一份账单就能调用 11 家厂商的 59 款文本模型。
- 文本模型
- 59
- 厂商
- 11
- 主流模型
- 不高于官方牌价
- 计费
- 一笔美元余额
这类负载需要什么
- 换模型或组合模型时,不用每次都重新接入。
- 在一个地方查看每个模型、Key 和项目的花费。
- 模型服务出故障时,行为可以预期。
- 价格可以对照厂商自己的价目表核对。
BoostRail 怎么处理
- 一个 OpenAI 兼容端点;用 model 参数选模型,GET /v1/models 列出你的 Key 能调用的模型 ID。
- 每款模型的 token 价格都公开,主流模型的价格不高于官方牌价。
- 用量可以按项目、API Key 和模型拆分,并导出为 CSV。
- 线路出错时,请求会在同一模型的另一条线路上重试,不会换成别的模型。
- 没有生效的请求字段会写在 x-boostrail-degraded 响应头里,不会被悄悄丢掉。
怎么设置
- 把 OpenAI SDK 指向 https://api.boostrail.com/v1,并填上 BoostRail Key。
- 从模型页挑选模型 ID。
- 按环境或功能分别用不同的 Key,花费就能按你需要的方式拆开看。
需要了解的限制
当前的实际行为,与文档一致。
- Chat Completions 只接受 n = 1。
- audio、web_search_options 和非文本模态会返回 400 unsupported_parameter。
- 非流式请求 180 秒后停止;生成较长的内容请用流式。
- 部分模型有输入长度上限,已在模型页标出。
接着看
获取 API Key
11 家厂商的 59 款文本模型,共用一个 Key、一笔余额、一份账单。
更新日期:2026-10-05