在 LangChain 里使用 OAIRoute
LangChain 通过提供方类绑定模型。继续用 ChatOpenAI,只改 base_url —— 它上面的链、工具和回调都不用动。
配置
from langchain_openai import ChatOpenAI
llm = ChatOpenAI(
model="claude-opus-5",
api_key="YOUR_OAIROUTE_KEY",
base_url="https://api.oairoute.com/v1",
)
# Every LangChain chain, agent and tool works unchanged —
# swap the model string to route to a different provider.
print(llm.invoke("Explain API routing.").content)Also works with LlamaIndex, Vercel AI SDK, and any OpenAI-compatible client.
为什么要走 OAIRoute
接一次,接所有厂商
选模型变成一个字符串。在同一个代理上对比 Claude 和 GPT,是改配置而不是重写。
和整个生态兼容
LlamaIndex、Vercel AI SDK 以及任何 OpenAI 兼容客户端,都用同样的方式访问同一个端点。
按 Key 看开销
给每个代理或实验单独一个 Key,网关就按 Key 报成本,而不是按进程。
接入步骤
- 1
创建 Key
在 api.oairoute.com 注册,到令牌页创建一个 Key。
- 2
把客户端指向网关
给 ChatOpenAI 传 base_url 和 api_key,或者在环境里设 OPENAI_BASE_URL。
- 3
验证
调用一次模型,确认响应是从网关回来的。
值得用的模型
| 模型 ID | 名称 | 适合 | 美元 / 百万 token(输入 / 输出) |
|---|---|---|---|
claude-opus-5-5 | Claude Opus 5.5 | 代理推理综合最优。 | $0.20 / $1.00 |
gpt-6-astra | GPT-6-Astra | 长上下文规划,1.1M tokens。 | $0.50 / $2.50 |
glm-5.3-flash | GLM-5.3 Flash | 多代理图里做执行步骤,便宜。 | $0.036 / $0.126 |
价格按模型目录公布的口径,单位为每百万 token 的输入 / 输出。
常见问题
需要自己写 LangChain 集成吗?
不需要。ChatOpenAI 加一个 base_url 就够了 —— 网关说的是 OpenAI 协议。
流式输出能用吗?
能,包括工具调用和结构化输出,它们走的是同一套协议。
怎么在同一个代理上对比两个模型?
用不同模型名实例化同一套链两次,模型之上的部分全部复用。