BYOK:把你自己的厂商 Key 放进同一个 LLM API 背后
准备采用多模型网关的团队,几乎都会在采购环节问同一个问题:「我们和模型厂商已经有合同、有协议价——为什么要通过中间商把推理再买一遍?」
自带密钥(BYOK)回答的正是这个问题:厂商账号还是你的,网关只负责接入面。
它怎么运作
在 BoostRail 的 BYOK 下,组织把自己的厂商 API Key 托管到平台。当请求命中这些 Key 覆盖的模型时,网关用你的 Key 打厂商官方端点。这意味着:
- 推理费用落在你自己的厂商账户,按你的合同价——不消耗平台余额。
- 请求数据停留在你既有的厂商协议之内——凡采购或合规要求与厂商直接建立关系的场合,这一点很关键。
- 你的应用永远接触不到托管的 Key——它们是路由层使用的后端库存。
网关侧你保留的东西:单一 OpenAI 兼容端点、应用只拿一把 Key、统一目录、健康评分路由,以及自动平台回退——你的上游 Key 撞配额或出错时,请求可以落到平台线路而不是直接失败。
花多少钱
免费档包含每月 1,000,000 次 BYOK 请求,无须充值。付费档提高月度配额、放宽厂商白名单。推理本身由你的厂商计费,平台侧收的是按请求的软件费——不是对 token 加价。
零锁定,是构造出来的
「会被锁定」是对网关最常见的反对意见,BYOK 把它反了过来:厂商 Key 是你的,应用对着的是 OpenAI 兼容端点。要离开网关,把 base_url 指回厂商官方端点就行。没有私有 SDK,没有自定义协议,没有任何你带不走的数据。
BYOK 什么时候覆盖一款模型,什么时候不覆盖
BYOK 路由需要两个条件:厂商在支持列表内,且该模型有官方端点映射。经聚合渠道接入的模型,或没有公开官方 API 的厂商,只走平台线路。覆盖面随目录扩展;当前厂商白名单与各档配额见 BYOK 页。
几种典型用法
- 合同价团队:推理走厂商协议价,网关管路由与观测,溢出流量走平台回退。
- 合规约束团队:敏感模型的请求钉在自己的厂商协议上,其余走平台线路。
- 成本分摊团队:旗舰模型走自己的 Key(合同在那边),长尾模型用平台余额——软件费一张账单,厂商账单不变。
API Key 与 BYOK 配置流程在 app.boostrail.com;控制台里有分步指南。