上游支持矩阵
Lumoswitch 当前提供 33 个推理渠道预设。每个预设分别声明稳定渠道代码、上游接口协议与 LiteLLM provider,并提供推荐 Base URL 和模型检测规则。实际可见模型取决于渠道账户权限;结构化能力说明来自模型目录及管理员覆盖,不从 /models 响应猜测。
编译器只使用经过核查的显式 LiteLLM provider prefix,不从接口协议推断。provider prefix 决定 LiteLLM 的请求转换行为,但不会改变真实渠道来源。默认转换行为由 LiteLLM 根据 provider 与模型处理;DeepSeek 与自定义 OpenAI-compatible 渠道可在直接探测通过并手动启用后使用原生 Responses。
普通 OpenAI-compatible 渠道使用 LiteLLM 的 custom_openai provider,使 Responses、Anthropic Messages 与 Gemini 请求走标准自动转换,而不会被误判为 OpenAI 原生端点。小米 MiMo 当前同时开放兼容的 Chat、Responses 与 Anthropic API,因此有意使用 openai provider。MiniMax 在 LiteLLM v1.102.0-rc.1 下使用 custom_openai:该版本的原生 minimax provider 仍无法用同一个部署 Base URL 同时正确拼接 Chat 与 Anthropic 端点。
LiteLLM v1.102.0-rc.1 为 Fireworks AI 新增原生 Responses 适配器。该渠道使用自身原生 provider,Responses 默认转向供应商原生端点,不经过 DeepSeek 与自定义渠道的显式开关。该适配器不支持原生 WebSocket 或 File Search;升级时需验证实际模型的 HTTP Responses 能力。
“原生 Responses”报告分别展示 HTTP、SSE、工具和用量等检查结果。成功报告随目标身份和运行时版本保持有效,可按需复测;模型、地址、凭据版本或运行时版本变化后需重新探测并启用。管理页显示目标配置和数据库同步状态,包括无关联部署、等待同步、已同步或同步失败;已同步不等于实时运行时验证。页面通过打开、手动刷新和操作结果更新。
中国大陆及通用上游
| 上游 | 协议 | 默认 Base URL |
|---|---|---|
| DeepSeek | OpenAI-compatible | https://api.deepseek.com/v1 |
| Qwen / 通义千问 | OpenAI-compatible | https://dashscope.aliyuncs.com/compatible-mode/v1 |
| GLM / 智谱 | OpenAI-compatible | https://open.bigmodel.cn/api/paas/v4 |
| Kimi / 月之暗面 | OpenAI-compatible | https://api.moonshot.cn/v1 |
| Doubao / 豆包 | OpenAI-compatible | https://ark.cn-beijing.volces.com/api/v3 |
| Tencent TokenHub | OpenAI-compatible | https://tokenhub.tencentmaas.com/v1 |
| MiniMax | OpenAI-compatible | https://api.minimaxi.com/v1 |
| StepFun / 阶跃星辰 | OpenAI-compatible | https://api.stepfun.com/v1 |
| MiMo / 小米 | OpenAI-compatible | https://api.xiaomimimo.com/v1 |
| SiliconFlow / 硅基流动 | OpenAI-compatible | https://api.siliconflow.cn/v1 |
| Qianfan / 百度千帆 | OpenAI-compatible | https://qianfan.baidubce.com/v2 |
| Baichuan / 百川 | OpenAI-compatible | https://api.baichuan-ai.com/v1 |
| Yi / 零一万物 | OpenAI-compatible | https://api.lingyiwanwu.com/v1 |
| ModelScope / 魔搭 | OpenAI-compatible | https://api-inference.modelscope.cn/v1 |
国际上游
| 上游 | 协议 | 默认 Base URL |
|---|---|---|
| OpenAI | OpenAI-compatible | https://api.openai.com/v1 |
| OpenRouter | OpenAI-compatible | https://openrouter.ai/api/v1 |
| Anthropic | Anthropic | https://api.anthropic.com |
| Gemini | Gemini | https://generativelanguage.googleapis.com |
| Cohere | Cohere | https://api.cohere.com/v2/chat |
| Mistral AI | OpenAI-compatible | https://api.mistral.ai/v1 |
| Groq | OpenAI-compatible | https://api.groq.com/openai/v1 |
| Together AI | OpenAI-compatible | https://api.together.xyz/v1 |
| Fireworks AI | OpenAI-compatible | https://api.fireworks.ai/inference/v1 |
| Cerebras | OpenAI-compatible | https://api.cerebras.ai/v1 |
| NVIDIA NIM | OpenAI-compatible | https://integrate.api.nvidia.com/v1 |
| Perplexity | OpenAI-compatible | https://api.perplexity.ai |
| Novita AI | OpenAI-compatible | https://api.novita.ai/openai/v1 |
| DeepInfra | OpenAI-compatible | https://api.deepinfra.com/v1/openai |
| SambaNova | OpenAI-compatible | https://api.sambanova.ai/v1 |
| xAI | OpenAI-compatible | https://api.x.ai/v1 |
本地与自定义
| 上游 | 协议 | 默认 Base URL |
|---|---|---|
| Ollama | Ollama | https://ollama.example.com |
| LM Studio | OpenAI-compatible | https://lm-studio.example.com/v1 |
| 自定义 OpenAI-compatible | OpenAI-compatible | 用户填写 |
容器化部署时,localhost 指向 Lumoswitch 容器本身;连接宿主机上的 Ollama 或 LM Studio 时,应改用容器可访问的宿主机地址。详见 本地模型接入。
能力确认
- 测试 Base URL 和凭证连接。
- 检测该账号可见的模型。
- 用目标模型发送最小聊天请求。
- 从目标客户端验证 Streaming、Tools、Vision、Reasoning 或 Embeddings。
预设存在不代表账号拥有所有模型或能力。渠道区域、项目、模型 ID 和专有参数可能不同;OpenAI-compatible 也不表示支持每个 OpenAI 参数。