选择本机或在线模型
Lumoswitch 将在线配置与由这台电脑上的运行时管理的连接分开显示。选择本机路由不代表推理一定离线完成;发送私密内容前,请先确认连接详情。
打开模型并添加连接
- 在桌面应用中打开 模型。
- 选择 本机 标签,管理保存在这台电脑上的配置;选择 在线 标签,使用与账号同步的配置。
- 在 本机 标签下选择 添加模型,添加提供方并选择要放入本机配置的模型。如需单独管理提供方 Key,选择 已接入的平台,再选择 添加平台 或编辑现有平台,填写该提供方签发的 API Key。使用本地模型服务时,填写它的端点并按页面提示操作。已有来源后,可在本机配置列表上方选择 新建配置 创建另一份配置。
- 在 在线 标签中使用平台模型或已有的在线配置。在线自有 Key 仅支持维护已有凭证,不再新增或更换 Key;新 Key 请按上一步在 本机 接入。如要创建或修改在线路由配置,在在线配置面板中选择 新建配置 并选择可用模型。旧版客户端即使仍显示在线添加入口,服务端也不会接受新 Key。
- 检查并保存更改,使用前查看所选配置的状态。
本机页下方另有 直连模型 区域,可维护直接连接到兼容端点的配置。它与上面的本机网关配置分开管理;使用前请核对所选连接支持哪些 Agent 或工作区。
确认请求发往哪里
- 安装在这台电脑上的模型:如果连接指向本地模型服务,推理可以在本机运行。请确认本地服务已启动,并使用它提供的本地端点。
- 在本机配置的云端模型:请求仍会通过网络发送给云端提供方。本机管理或本机路由不会让云端模型在电脑上运行。
- 在线配置:请求使用所选的在线服务和账号配置;是否可用取决于该配置和服务状态。
如要使用 Ollama 或 LM Studio 等本地模型服务,请先在该服务中启动并加载模型,再在本机模型连接中填写可访问的端点。本地推理端点与桌面应用内置网关是不同的服务。
了解费用与内置网关
使用自己的提供方 API Key(BYOK)时,提供方可能按照其条款和用量向该 Key 计费。本机配置不会免除提供方费用。通过 本机 → 已接入的平台 填写的新 Key 保存在这台电脑;历史上已保存的在线 Key 仍按账号维护,模型用量由提供方计费。在线入口不再接收新增或替换 Key。请在提供方账号中查看费用和限额。
使用内置 LiteLLM 网关的 Agent 配置时,处理请求期间必须保持 Lumoswitch 运行。关闭窗口后,应用可能继续在后台运行;如果完全退出 Lumoswitch,本地网关便无法响应,直到重新打开应用。直接写入 Agent 原生配置的连接生命周期不同,请查看该 Agent 对应的连接详情。
验证连接
- 使用本机配置时,在 模型 → 本机 标签检查本机配置列表和运行状态;使用在线配置时,打开 模型 → 在线 标签并检查 在线配置 面板。
- 打开 Agent,为已安装的 Agent 选择兼容连接;或打开工作区并选择可用模型。
- 发送一个不含密钥或敏感项目内容的小请求。
- 确认收到回复,而且当前选择的是预期的模型连接。
连接不可用时
- 本地模型无法使用时,先启动模型服务、确认模型已加载,并检查这台电脑能否访问该端点。
- BYOK 云端连接失败时,检查 Key 和提供方账号限额;不要把真实 Key 粘贴到聊天或文档中。
- Agent 使用内置网关时,打开 Lumoswitch 并查看本机运行时状态;应用完全退出后无法处理网关请求。
- 如果 Agent 或工作区没有显示某个模型,请选择兼容连接,或查看该功能的兼容说明。保存连接不等于每个客户端都支持它。