在 LangChain 里使用 OAIRoute

LangChain 通过提供方类绑定模型。继续用 ChatOpenAI,只改 base_url —— 它上面的链、工具和回调都不用动。

Python / JS framework

配置

agent.py
from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    model="claude-opus-5",
    api_key="YOUR_OAIROUTE_KEY",
    base_url="https://api.oairoute.com/v1",
)

# Every LangChain chain, agent and tool works unchanged —
# swap the model string to route to a different provider.
print(llm.invoke("Explain API routing.").content)
Also works with LlamaIndex, Vercel AI SDK, and any OpenAI-compatible client.

完整分步指南

为什么要走 OAIRoute

接一次,接所有厂商

选模型变成一个字符串。在同一个代理上对比 Claude 和 GPT,是改配置而不是重写。

和整个生态兼容

LlamaIndex、Vercel AI SDK 以及任何 OpenAI 兼容客户端,都用同样的方式访问同一个端点。

按 Key 看开销

给每个代理或实验单独一个 Key,网关就按 Key 报成本,而不是按进程。

接入步骤

  1. 1

    创建 Key

    在 api.oairoute.com 注册,到令牌页创建一个 Key。

  2. 2

    把客户端指向网关

    给 ChatOpenAI 传 base_url 和 api_key,或者在环境里设 OPENAI_BASE_URL。

  3. 3

    验证

    调用一次模型,确认响应是从网关回来的。

值得用的模型

模型 ID名称适合美元 / 百万 token(输入 / 输出)
claude-opus-5-5Claude Opus 5.5代理推理综合最优。$0.20 / $1.00
gpt-6-astraGPT-6-Astra长上下文规划,1.1M tokens。$0.50 / $2.50
glm-5.3-flashGLM-5.3 Flash多代理图里做执行步骤,便宜。$0.036 / $0.126

价格按模型目录公布的口径,单位为每百万 token 的输入 / 输出。

常见问题

需要自己写 LangChain 集成吗?

不需要。ChatOpenAI 加一个 base_url 就够了 —— 网关说的是 OpenAI 协议。

流式输出能用吗?

能,包括工具调用和结构化输出,它们走的是同一套协议。

怎么在同一个代理上对比两个模型?

用不同模型名实例化同一套链两次,模型之上的部分全部复用。

其他工具