Lumoswitch 文档

协议与兼容性

每个 API 配置只开放其已发布 LiteLLM Mode 自动推导出的统一接口。请求直达 Lumoswitch 推理服务,并统一使用 Lumoswitch Access Key 鉴权。

工作流方法公开路径
模型与文本GETPOST/v1/models/v1/chat/completions/v1/completions/v1/embeddings
ResponsesPOSTGETDELETE、WebSocket/v1/responses/v1/responses/{id}/v1/responses/{id}/input_items/v1/responses/compact/v1/responses/{id}/cancel
图像与音频POST/v1/images/generations/v1/images/edits/v1/audio/transcriptions/v1/audio/speech
视频POSTGET/v1/videos(创建)、/v1/videos/{id}/v1/videos/{id}/content/v1/videos/{id}/remix/v1/videos/characters/v1/videos/characters/{id}/v1/videos/edits/v1/videos/extensions
文档与排序POST/v1/ocr/v1/rerank/v2/rerank/v1/moderations
RealtimePOST、WebSocket/v1/realtime/v1/realtime/client_secrets/v1/realtime/transcription_sessions/v1/realtime/calls
AnthropicPOST/v1/messages/v1/messages/count_tokens
GeminiPOST/v1beta/models/{model}:generateContent:streamGenerateContent:countTokens/models 别名

Batch/Files 保持私有:LiteLLM 1.102.0-rc.1 按租户隔离 Managed Files 的归属钩子仍只在 Enterprise 提供,本项目未接入该钩子,无法保证共享上游文件资源的租户隔离。Video 全局列表也因相同的隔离风险保持私有。Image Variations、Assistants/Threads、Vector Stores/RAG、Containers、管理接口和 provider 原生透传同样不对公网开放。

OpenAI 客户端使用 https://api.lumoswitch.com/v1,Anthropic 与 Gemini 客户端使用 https://api.lumoswitch.com。故障转移中的全部候选必须支持客户端实际使用的能力。

在客户端对应的原生鉴权 Header 中填写 Lumoswitch Access Key:OpenAI 使用 Authorization: Bearer,Anthropic 使用 x-api-key,Gemini 使用 x-goog-api-key。下游客户端不得填写上游渠道 Key。

这些路径是 Lumoswitch Runtime 的统一协议转换入口:Anthropic 或 Gemini 格式的客户端可以调用任意兼容的已配置上游。/anthropic/*/gemini/*/cohere/* 等渠道原生透传路径仍保持私有,因为它们不遵循配置 API 的模型与凭据边界。Nginx 会先校验精确 Method、MIME、请求体大小和 WebSocket Upgrade,再由 LiteLLM 执行 Virtual Key 模型授权、限流、并发与预算控制。

On this page