凭证池
一个上游可以保存多个厂商 API Key。凭证池用于在同一厂商和 Base URL 下管理这些凭证,并按优先级参与请求。
适用场景
- 不同厂商账号分别提供额度。
- 生产与备用凭证需要明确优先级。
- 某个 Key 只允许访问部分模型。
- 轮换 Key 时需要短暂保留新旧凭证。
如果凭证对应不同区域、不同 Base URL 或完全不同权限边界,建议创建独立上游,而不是放进同一个凭证池。
凭证字段
| 字段 | 说明 |
|---|---|
| 名称 | 便于识别账号、环境或用途 |
| 优先级 | 数值顺序决定优先尝试顺序 |
| 启用状态 | 停用后不再参与请求 |
| 模型范围 | 限制该凭证可以参与的模型 |
| 最近失败 | 帮助识别失效、限流或权限问题 |
完整厂商 Key 不会在列表中再次显示。新增时应使用可识别但不包含秘密的名称。
选择与故障切换
Lumoswitch 优先使用已启用、允许目标模型且优先级合适的凭证。当前凭证失败时,系统可继续尝试池中的其他有效凭证;是否继续切换还会受到配置模式和错误类型影响。
额度不足、限流、鉴权失败和网络故障的处理可能不同。不要把凭证池当成无限重试机制。
模型检测限制
当前模型检测主要使用上游的主凭证。备用凭证可以参与调用,但不保证每个凭证都会单独执行完整模型发现。因此:
- 确保主凭证至少能列出目标模型。
- 为备用凭证配置正确的模型范围。
- 新增备用凭证后执行聊天测试,而不只依赖模型列表。
安全轮换
- 添加新凭证并设为启用。
- 单独测试连接和目标模型。
- 调整优先级,让新凭证先参与请求。
- 确认客户端调用正常。
- 停用旧凭证,观察无异常后删除。