Lumoswitch 文档

上游支持矩阵

Lumoswitch 当前提供 33 个推理渠道预设。每个预设分别声明稳定渠道代码、上游接口协议与 LiteLLM provider,并提供推荐 Base URL 和模型检测规则。实际可见模型取决于渠道账户权限;结构化能力说明来自模型目录及管理员覆盖,不从 /models 响应猜测。

编译器只使用经过核查的显式 LiteLLM provider prefix,不从接口协议推断。provider prefix 决定 LiteLLM 的请求转换行为,但不会改变真实渠道来源。默认转换行为由 LiteLLM 根据 provider 与模型处理;DeepSeek 与自定义 OpenAI-compatible 渠道可在直接探测通过并手动启用后使用原生 Responses。

普通 OpenAI-compatible 渠道使用 LiteLLM 的 custom_openai provider,使 Responses、Anthropic Messages 与 Gemini 请求走标准自动转换,而不会被误判为 OpenAI 原生端点。小米 MiMo 当前同时开放兼容的 Chat、Responses 与 Anthropic API,因此有意使用 openai provider。MiniMax 在 LiteLLM v1.102.0-rc.1 下使用 custom_openai:该版本的原生 minimax provider 仍无法用同一个部署 Base URL 同时正确拼接 Chat 与 Anthropic 端点。

LiteLLM v1.102.0-rc.1 为 Fireworks AI 新增原生 Responses 适配器。该渠道使用自身原生 provider,Responses 默认转向供应商原生端点,不经过 DeepSeek 与自定义渠道的显式开关。该适配器不支持原生 WebSocket 或 File Search;升级时需验证实际模型的 HTTP Responses 能力。

“原生 Responses”报告分别展示 HTTP、SSE、工具和用量等检查结果。成功报告随目标身份和运行时版本保持有效,可按需复测;模型、地址、凭据版本或运行时版本变化后需重新探测并启用。管理页显示目标配置和数据库同步状态,包括无关联部署、等待同步、已同步或同步失败;已同步不等于实时运行时验证。页面通过打开、手动刷新和操作结果更新。

中国大陆及通用上游

上游协议默认 Base URL
DeepSeekOpenAI-compatiblehttps://api.deepseek.com/v1
Qwen / 通义千问OpenAI-compatiblehttps://dashscope.aliyuncs.com/compatible-mode/v1
GLM / 智谱OpenAI-compatiblehttps://open.bigmodel.cn/api/paas/v4
Kimi / 月之暗面OpenAI-compatiblehttps://api.moonshot.cn/v1
Doubao / 豆包OpenAI-compatiblehttps://ark.cn-beijing.volces.com/api/v3
Tencent TokenHubOpenAI-compatiblehttps://tokenhub.tencentmaas.com/v1
MiniMaxOpenAI-compatiblehttps://api.minimaxi.com/v1
StepFun / 阶跃星辰OpenAI-compatiblehttps://api.stepfun.com/v1
MiMo / 小米OpenAI-compatiblehttps://api.xiaomimimo.com/v1
SiliconFlow / 硅基流动OpenAI-compatiblehttps://api.siliconflow.cn/v1
Qianfan / 百度千帆OpenAI-compatiblehttps://qianfan.baidubce.com/v2
Baichuan / 百川OpenAI-compatiblehttps://api.baichuan-ai.com/v1
Yi / 零一万物OpenAI-compatiblehttps://api.lingyiwanwu.com/v1
ModelScope / 魔搭OpenAI-compatiblehttps://api-inference.modelscope.cn/v1

国际上游

上游协议默认 Base URL
OpenAIOpenAI-compatiblehttps://api.openai.com/v1
OpenRouterOpenAI-compatiblehttps://openrouter.ai/api/v1
AnthropicAnthropichttps://api.anthropic.com
GeminiGeminihttps://generativelanguage.googleapis.com
CohereCoherehttps://api.cohere.com/v2/chat
Mistral AIOpenAI-compatiblehttps://api.mistral.ai/v1
GroqOpenAI-compatiblehttps://api.groq.com/openai/v1
Together AIOpenAI-compatiblehttps://api.together.xyz/v1
Fireworks AIOpenAI-compatiblehttps://api.fireworks.ai/inference/v1
CerebrasOpenAI-compatiblehttps://api.cerebras.ai/v1
NVIDIA NIMOpenAI-compatiblehttps://integrate.api.nvidia.com/v1
PerplexityOpenAI-compatiblehttps://api.perplexity.ai
Novita AIOpenAI-compatiblehttps://api.novita.ai/openai/v1
DeepInfraOpenAI-compatiblehttps://api.deepinfra.com/v1/openai
SambaNovaOpenAI-compatiblehttps://api.sambanova.ai/v1
xAIOpenAI-compatiblehttps://api.x.ai/v1

本地与自定义

上游协议默认 Base URL
OllamaOllamahttps://ollama.example.com
LM StudioOpenAI-compatiblehttps://lm-studio.example.com/v1
自定义 OpenAI-compatibleOpenAI-compatible用户填写

容器化部署时,localhost 指向 Lumoswitch 容器本身;连接宿主机上的 Ollama 或 LM Studio 时,应改用容器可访问的宿主机地址。详见 本地模型接入

能力确认

  1. 测试 Base URL 和凭证连接。
  2. 检测该账号可见的模型。
  3. 用目标模型发送最小聊天请求。
  4. 从目标客户端验证 Streaming、Tools、Vision、Reasoning 或 Embeddings。

预设存在不代表账号拥有所有模型或能力。渠道区域、项目、模型 ID 和专有参数可能不同;OpenAI-compatible 也不表示支持每个 OpenAI 参数。

On this page