开发文档

框架接入

支持 OpenAI 兼容服务商的工具，只需要三项设置：base URL https://api.boostrail.com/v1、API Key，以及模型页上的模型 ID。下面的示例都从环境变量 BOOSTRAIL_API_KEY 读取 Key。

Vercel AI SDK

使用 AI SDK 的 OpenAI 兼容 provider 包。先创建一次 provider，之后把模型 ID 传给它即可。

安装

npm install ai @ai-sdk/openai-compatible

generateTextstreamText

import { createOpenAICompatible } from "@ai-sdk/openai-compatible";
import { generateText } from "ai";

const boostrail = createOpenAICompatible({
  name: "boostrail",
  apiKey: process.env.BOOSTRAIL_API_KEY,
  baseURL: "https://api.boostrail.com/v1",
  includeUsage: true,
});

const { text, usage } = await generateText({
  model: boostrail("deepseek-v4.1-flash"),
  prompt: "你好",
});
console.log(text, usage);

import { createOpenAICompatible } from "@ai-sdk/openai-compatible";
import { streamText } from "ai";

const boostrail = createOpenAICompatible({
  name: "boostrail",
  apiKey: process.env.BOOSTRAIL_API_KEY,
  baseURL: "https://api.boostrail.com/v1",
  includeUsage: true,
});

const result = streamText({
  model: boostrail("deepseek-v4.1-flash"),
  prompt: "写一首关于火车的俳句。",
});
for await (const part of result.textStream) process.stdout.write(part);
console.log(await result.usage);

两种调用都会在 usage 里返回 token 用量。已用 ai 7.0 和 @ai-sdk/openai-compatible 3.0 验证。

LiteLLM

在 LiteLLM 的 Python SDK 里，给模型 ID 加上 openai/ 前缀，并把 base URL 填进 api_base。

安装

pip install litellm

PythonPython（流式）

import os
import litellm

response = litellm.completion(
    model="openai/deepseek-v4.1-flash",
    api_base="https://api.boostrail.com/v1",
    api_key=os.environ["BOOSTRAIL_API_KEY"],
    messages=[{"role": "user", "content": "你好"}],
)
print(response.choices[0].message.content)

import os
import litellm

stream = litellm.completion(
    model="openai/deepseek-v4.1-flash",
    api_base="https://api.boostrail.com/v1",
    api_key=os.environ["BOOSTRAIL_API_KEY"],
    messages=[{"role": "user", "content": "写一首关于火车的俳句。"}],
    stream=True,
)
for chunk in stream:
    print(chunk.choices[0].delta.content or "", end="")

使用 LiteLLM Proxy 时，在 model_list 里为每个模型加一条。model_name 是客户端调用 Proxy 时填的名字；os.environ/BOOSTRAIL_API_KEY 表示从环境变量读取 Key。

config.yaml

model_list:
  - model_name: deepseek-v4.1-flash
    litellm_params:
      model: openai/deepseek-v4.1-flash
      api_base: https://api.boostrail.com/v1
      api_key: os.environ/BOOSTRAIL_API_KEY

启动 Proxy

pip install 'litellm[proxy]'
litellm --config config.yaml

LibreChat

在 librechat.yaml 里把 BoostRail 加为自定义端点，再把 Key 写进 LibreChat 的 .env 文件。

.env

BOOSTRAIL_API_KEY=YOUR_API_KEY

librechat.yaml

endpoints:
  custom:
    - name: "BoostRail"
      apiKey: "${BOOSTRAIL_API_KEY}"
      baseURL: "https://api.boostrail.com/v1"
      models:
        default: ["deepseek-v4.1-flash"]
        fetch: true
      titleConvo: true
      titleModel: "deepseek-v4.1-flash"
      modelDisplayLabel: "BoostRail"

fetch: true 会从 GET /v1/models 读取模型列表。只有这个请求失败时，LibreChat 才改用 default 里的列表。
读到的列表里也有只能用自带厂商 Key 调用的模型，添加该厂商的 Key 后才能使用，见 BYOK。
titleModel 是 LibreChat 给对话起标题时用的模型。
如果希望每个 LibreChat 用户填自己的 BoostRail Key，把配置改成 apiKey: "user_provided"。

其他工具

其他可以自定义 OpenAI base URL 的工具，填同样的三项即可。Claude Code、Codex CLI、Cline 等编程 agent 的设置见编程 agent 接入页。