协议与兼容性
每个 API 配置只开放其已发布 LiteLLM Mode 自动推导出的统一接口。请求直达 Lumoswitch 推理服务,并统一使用 Lumoswitch Access Key 鉴权。
| 工作流 | 方法 | 公开路径 |
|---|---|---|
| 模型与文本 | GET、POST | /v1/models、/v1/chat/completions、/v1/completions、/v1/embeddings |
| Responses | POST、GET、DELETE、WebSocket | /v1/responses、/v1/responses/{id}、/v1/responses/{id}/input_items、/v1/responses/compact、/v1/responses/{id}/cancel |
| 图像与音频 | POST | /v1/images/generations、/v1/images/edits、/v1/audio/transcriptions、/v1/audio/speech |
| 视频 | POST、GET | /v1/videos(创建)、/v1/videos/{id}、/v1/videos/{id}/content、/v1/videos/{id}/remix、/v1/videos/characters、/v1/videos/characters/{id}、/v1/videos/edits、/v1/videos/extensions |
| 文档与排序 | POST | /v1/ocr、/v1/rerank、/v2/rerank、/v1/moderations |
| Realtime | POST、WebSocket | /v1/realtime、/v1/realtime/client_secrets、/v1/realtime/transcription_sessions、/v1/realtime/calls |
| Anthropic | POST | /v1/messages、/v1/messages/count_tokens |
| Gemini | POST | /v1beta/models/{model}:generateContent、:streamGenerateContent、:countTokens 及 /models 别名 |
Batch/Files 保持私有:LiteLLM 1.102.0-rc.1 按租户隔离 Managed Files 的归属钩子仍只在 Enterprise 提供,本项目未接入该钩子,无法保证共享上游文件资源的租户隔离。Video 全局列表也因相同的隔离风险保持私有。Image Variations、Assistants/Threads、Vector Stores/RAG、Containers、管理接口和 provider 原生透传同样不对公网开放。
OpenAI 客户端使用 https://api.lumoswitch.com/v1,Anthropic 与 Gemini 客户端使用 https://api.lumoswitch.com。故障转移中的全部候选必须支持客户端实际使用的能力。
在客户端对应的原生鉴权 Header 中填写 Lumoswitch Access Key:OpenAI 使用 Authorization: Bearer,Anthropic 使用 x-api-key,Gemini 使用 x-goog-api-key。下游客户端不得填写上游渠道 Key。
这些路径是 Lumoswitch Runtime 的统一协议转换入口:Anthropic 或 Gemini 格式的客户端可以调用任意兼容的已配置上游。/anthropic/*、/gemini/*、/cohere/* 等渠道原生透传路径仍保持私有,因为它们不遵循配置 API 的模型与凭据边界。Nginx 会先校验精确 Method、MIME、请求体大小和 WebSocket Upgrade,再由 LiteLLM 执行 Virtual Key 模型授权、限流、并发与预算控制。