Switch 使用手册 开发中
把任意 OpenAI 客户端接到 Switch
Switch 启动后在本地暴露兼容 OpenAI API 的端点,改一行 base_url 即可让所有请求自动由 Switch 路由。
快速接入
Switch 启动后本地暴露兼容 OpenAI API 的端点 http://localhost:19090/v1(Switch gateway 默认端口 19090)。把应用/SDK 的 base_url 改为此地址,所有请求自动由 Switch 路由。api_key 填任意值(如 switch),Switch 用配置中的 provider key。
把客户端的
base_url指向本地 Switch 端点,api_key填任意值(如switch),照常发起请求:bashcurl http://localhost:19090/v1/chat/completions \ -H "Content-Type: application/json" -H "Authorization: Bearer switch" \ -d '{"model":"gpt-4o","messages":[{"role":"user","content":"Hello"}]}'pythonfrom openai import OpenAI client = OpenAI( base_url="http://localhost:19090/v1", api_key="switch", ) resp = client.chat.completions.create( model="gpt-4o", messages=[{"role": "user", "content": "Hello"}], ) print(resp.choices[0].message.content)javascriptimport OpenAI from "openai"; const client = new OpenAI({ baseURL: "http://localhost:19090/v1", apiKey: "switch", }); const resp = await client.chat.completions.create({ model: "gpt-4o", messages: [{ role: "user", content: "Hello" }], }); console.log(resp.choices[0].message.content);OpenAI SDK(Python / Node.js)只改
base_url/baseURL与api_key,其余调用照常 — Switch 用配置中的 provider key 完成实际路由,客户端无需感知下游提供商。
为什么 api_key 可以填任意值
api_key 仅用于占位,填 switch 即可。在 AI 编程工具中使用
所有工具的 API Base / 接口地址均填 http://localhost:19090/v1,API Key 填 switch。
在 AI 编程工具中使用
所有工具的 API Base / 接口地址均填 http://localhost:19090/v1,API Key 填 switch:
设置(Ctrl+,)→ 搜「AI」→「OpenAI API Base」改为该地址 → 保存,补全和对话自动走 Switch。
编辑 ~/.continue/config.json,每个 model 项设 "provider": "openai"、"apiBase": "http://localhost:19090/v1"、"apiKey": "switch","model" 填 deepseek-chat / gpt-4o 等。
设置 → API 配置 → 选「自定义 OpenAI 兼容」→ 填地址和 Key →「测试连接」。
设置 → 语言模型 → OpenAI → 填 API Key 和接口地址。
监控、切换与流式
请求监控
「日志」选项卡查看实时请求日志,字段:时间(时间戳)、模型、提供商(实际路由目标)、耗时(ms)、Token(prompt/completion)、状态(200 / 4xx-5xx)。「导出 CSV」可导出近 7 天记录用于成本统计。
一键切换提供商
菜单栏图标(macOS)/ 系统托盘(Windows)点击可:切换「当前活跃提供商」、临时禁用某提供商(调试)、查看今日用量概览。
流式响应
完全支持 SSE 流式响应并透传下游:chat.completions.create(..., stream=True) 后迭代 chunk.choices[0].delta.content。
负载均衡
同一模型配置多个提供商时可轮询或按权重分配。
高级:负载均衡
同一模型配置多个提供商时可轮询或按权重分配:
{
"routing": {
"rules": [
{
"pattern": "deepseek-chat",
"providers": [
{ "name": "Lurus API", "weight": 70 },
{ "name": "DeepSeek Official", "weight": 30 }
],
"strategy": "weighted_random"
}
]
}
}故障排查
展开对应症状查看处理步骤。
故障排查
"connection refused" — 连接被拒绝
Switch 未启动或端口不对。检查进程和端口:
- 进程:Windows
tasklist | findstr LurusSwitch/ macOS·Linuxps aux | grep lurus-switch - 端口:
curl http://localhost:19090/v1/models
401 / 403 — 鉴权失败
提供商 API Key 配置错误。在配置界面重新填写并点击「测试」验证连通性。
延迟异常高
- 日志查路由是否命中正确提供商。
- 海外提供商(OpenAI / Anthropic)高延迟正常(300-1500ms)。
- 改用 Lurus API 国内节点(通常 < 200ms)。
macOS 应用无响应
菜单栏右键「退出」后重启,或终端执行:
pkill -f LurusSwitch && open -a "Lurus Switch"