跳到正文

推广模型网关

先验证模型路由与失败行为,再向开发者分发连接说明。

准备网关合同

  • 确认网关 Owner、HTTPS 地址、协议和已批准模型。
  • 明确凭据、数据处理、限额、日志与故障责任。
  • 准备回退配置与代表性客户端版本。
  • 将模型连接与 MCP、插件、浏览器等其他路径分别管理。

选择模型名称和目录

网关接受的模型标识、客户端目录和实际路由必须一致。提供准确能力元数据,不能仅返回模型 ID 就假设工具、多模态和上下文全部兼容。

  • 使用当前 Lime 模型与服务能力配置,保持目录与路由就绪状态一致。
  • 别名变更时验证新任务和已有任务。
  • 记录每个模型真正指向的上游与允许身份。
  • 不要直接复制其他客户端的 models.json Schema、Rust crate 或版本查询参数。

选择认证与保护上游

Lime 当前模型连接使用 API Key Provider/configured providers。凭据通过专用安全入口提供,服务端限制资源与操作。旧模型 OAuth 池和其他产品的双令牌转发不构成本次接入方案。

  • 上游凭据保留在应负责的一层。
  • 不把调用方凭据发送给无关端点。
  • 测试过期、撤销、权限不足和上游拒绝。
  • 日志只保留诊断所需标识,不记录完整认证头或敏感正文。

试点验证

  • 用隔离测试账号验证文本、流式结束与后续对话。
  • 测试工具、多模态、取消、中断和部分失败。
  • 使用需要审批的真实支持路径验证自动审查连接,不用无需审批读取代替。
  • 更换服务时测试已有任务能否继续,并给用户明确恢复步骤。
  • 由网关日志确认路由,不能靠模型自报身份。

分发开发者说明

交付内容要求
服务信息Base URL、协议、服务标识与模型。
认证秘密获取、更新和撤销方式。
配置当前 Lime 支持的入口和适用版本。
网络代理、证书与所需目标。
验证最小测试、预期结果与帮助信息。
恢复旧配置、任务兼容性和失败处置。

默认设置不能保证强制路由。需要管理约束时,只使用当前 Schema 已支持的系统要求,并验证真实请求。

推广与持续复验

每种目标操作系统和客户端通过后再扩大。版本、目录、认证或网关更新时重跑同一组验证,保存配置 revision 与证据。