Lumoswitch 文档

凭证池

一个上游可以保存多个渠道 API Key。凭证池用于在同一渠道和 Base URL 下管理这些凭证,并按优先级参与请求。

适用场景

  • 不同渠道账号分别提供额度。
  • 生产与备用凭证需要明确优先级。
  • 某个 Key 只允许访问部分模型。
  • 轮换 Key 时需要短暂保留新旧凭证。

如果凭证对应不同区域、不同 Base URL 或完全不同权限边界,建议创建独立上游,而不是放进同一个凭证池。

凭证字段

字段说明
名称便于识别账号、环境或用途
优先级数值顺序决定优先尝试顺序
启用状态停用后不再参与请求
模型范围限制该凭证可以参与的模型
最近失败帮助识别失效、限流或权限问题

完整渠道 Key 不会在列表中再次显示。新增时应使用可识别但不包含秘密的名称。

选择与故障切换

已启用且允许目标模型的凭证会按数值优先级编译到 Lumoswitch Runtime 部署层级中。较小的值先尝试,不同优先级形成有序回退;相同优先级的凭证由 Lumoswitch Runtime 当前策略选择,不能假定严格轮询。是否继续切换还会受到配置模式、错误类型、重试和冷却状态影响。

额度不足、限流、鉴权失败和网络故障的处理可能不同。不要把凭证池当成无限重试机制。

模型检测限制

当前模型检测主要使用上游的主凭证。备用凭证可以参与调用,但不保证每个凭证都会单独执行完整模型发现。因此:

  • 确保主凭证至少能列出目标模型。
  • 为备用凭证配置正确的模型范围。
  • 新增备用凭证后执行聊天测试,而不只依赖模型列表。

安全轮换

  1. 添加新凭证并设为启用。
  2. 单独测试连接和目标模型。
  3. 调整优先级,让新凭证先参与请求。
  4. 确认客户端调用正常。
  5. 停用旧凭证,观察无异常后删除。

On this page