推广模型网关
先验证模型路由与失败行为,再向开发者分发连接说明。
准备网关合同
- 确认网关 Owner、HTTPS 地址、协议和已批准模型。
- 明确凭据、数据处理、限额、日志与故障责任。
- 准备回退配置与代表性客户端版本。
- 将模型连接与 MCP、插件、浏览器等其他路径分别管理。
选择模型名称和目录
网关接受的模型标识、客户端目录和实际路由必须一致。提供准确能力元数据,不能仅返回模型 ID 就假设工具、多模态和上下文全部兼容。
- 使用当前 Lime 模型与服务能力配置,保持目录与路由就绪状态一致。
- 别名变更时验证新任务和已有任务。
- 记录每个模型真正指向的上游与允许身份。
- 不要直接复制其他客户端的 models.json Schema、Rust crate 或版本查询参数。
选择认证与保护上游
Lime 当前模型连接使用 API Key Provider/configured providers。凭据通过专用安全入口提供,服务端限制资源与操作。旧模型 OAuth 池和其他产品的双令牌转发不构成本次接入方案。
- 上游凭据保留在应负责的一层。
- 不把调用方凭据发送给无关端点。
- 测试过期、撤销、权限不足和上游拒绝。
- 日志只保留诊断所需标识,不记录完整认证头或敏感正文。
试点验证
- 用隔离测试账号验证文本、流式结束与后续对话。
- 测试工具、多模态、取消、中断和部分失败。
- 使用需要审批的真实支持路径验证自动审查连接,不用无需审批读取代替。
- 更换服务时测试已有任务能否继续,并给用户明确恢复步骤。
- 由网关日志确认路由,不能靠模型自报身份。
分发开发者说明
| 交付内容 | 要求 |
|---|---|
| 服务信息 | Base URL、协议、服务标识与模型。 |
| 认证 | 秘密获取、更新和撤销方式。 |
| 配置 | 当前 Lime 支持的入口和适用版本。 |
| 网络 | 代理、证书与所需目标。 |
| 验证 | 最小测试、预期结果与帮助信息。 |
| 恢复 | 旧配置、任务兼容性和失败处置。 |
默认设置不能保证强制路由。需要管理约束时,只使用当前 Schema 已支持的系统要求,并验证真实请求。
推广与持续复验
每种目标操作系统和客户端通过后再扩大。版本、目录、认证或网关更新时重跑同一组验证,保存配置 revision 与证据。