凭证池
一个上游可以保存多个渠道 API Key。凭证池用于在同一渠道和 Base URL 下管理这些凭证,并按优先级参与请求。
适用场景
- 不同渠道账号分别提供额度。
- 生产与备用凭证需要明确优先级。
- 某个 Key 只允许访问部分模型。
- 轮换 Key 时需要短暂保留新旧凭证。
如果凭证对应不同区域、不同 Base URL 或完全不同权限边界,建议创建独立上游,而不是放进同一个凭证池。
凭证字段
| 字段 | 说明 |
|---|---|
| 名称 | 便于识别账号、环境或用途 |
| 优先级 | 数值顺序决定优先尝试顺序 |
| 启用状态 | 停用后不再参与请求 |
| 模型范围 | 限制该凭证可以参与的模型 |
| 最近失败 | 帮助识别失效、限流或权限问题 |
完整渠道 Key 不会在列表中再次显示。新增时应使用可识别但不包含秘密的名称。
选择与故障切换
已启用且允许目标模型的凭证会按数值优先级编译到 Lumoswitch Runtime 部署层级中。较小的值先尝试,不同优先级形成有序回退;相同优先级的凭证由 Lumoswitch Runtime 当前策略选择,不能假定严格轮询。是否继续切换还会受到配置模式、错误类型、重试和冷却状态影响。
额度不足、限流、鉴权失败和网络故障的处理可能不同。不要把凭证池当成无限重试机制。
模型检测限制
当前模型检测主要使用上游的主凭证。备用凭证可以参与调用,但不保证每个凭证都会单独执行完整模型发现。因此:
- 确保主凭证至少能列出目标模型。
- 为备用凭证配置正确的模型范围。
- 新增备用凭证后执行聊天测试,而不只依赖模型列表。
安全轮换
- 添加新凭证并设为启用。
- 单独测试连接和目标模型。
- 调整优先级,让新凭证先参与请求。
- 确认客户端调用正常。
- 停用旧凭证,观察无异常后删除。