模型路由
按明确模型 ID 路由,并保留可核验的运行边界
KeepRouter 将公共模型 ID 的请求路由到符合条件的配置线路。公共响应保留请求的 canonical 身份,而线路健康与可用性被当作可观测的运行问题,而不是隐藏的营销承诺。
最后复核 2026-08-15 · 编辑复核: KeepRouter Editorial
先明确选择
每个请求都命名实时目录中的模型。这样应用行为可审查:模型 ID 会出现在配置、请求日志、用量报告和公共模型页。KeepRouter 不要求使用会在没有应用决策时改变质量或价格的模糊“智能”别名。
路由如何选择
网关在转发前检查认证、Key 限制、公开价格、路由兼容性和配置线路健康。当存在多条合格线路时,可按网关策略使用可用候选。成功响应会规范回公共模型身份,避免上游版本标签污染应用的模型计量。
路由不保证什么
已配置路由不是永久可用承诺。供应商故障、限流、地区限制、参数不兼容和账户余额不足都可能让请求失败。公共状态页报告 KeepRouter 数据库与路由配置健康,并明确不声称已经探测每个上游模型。
生产客户端应该:
- 设置连接和总超时;
- 只对安全的暂时性错误做带抖动重试;
- 不重试认证、校验或额度不足错误;
- 为工具或副作用工作流保留幂等性;
- 记录请求模型和 request ID;
- 只在测试过语义差异后使用应用自有 fallback。
稳定公共 ID 与滚动后端
部分模型厂商在更新后台版本时仍保留稳定 API ID。KeepRouter 目录记录可调用稳定 ID;带日期或供应商内部标签不会自动成为单独公共产品。这样 Key、价格、日志和模型页都围绕客户实际发送的 ID 对齐。
把 fallback 设计成产品行为
自动 fallback 可以保持端点可用,却可能改变输出风格、上下文限制、工具行为或成本。请按任务决定可接受的转换,限制最高价格,并把 fallback 事件暴露给应用遥测。只有结果仍满足产品契约时,可用性才真正有价值。
常见问题
KeepRouter 会自动选择任意模型吗?
不会。请求明确指定公共模型 ID,路由只为该 ID 选择合格配置线路,不会换成无关模型。
状态页会探测每个上游模型吗?
不会。它报告网关数据库、schema 与路由配置健康;真实模型调用属于另一层证据。
为什么要保留稳定模型 ID?
上游滚动后台版本时,稳定可调用 ID 能让配置、Key 策略、定价、日志和公开文档保持一致。
应用仍需要实现重试吗?
需要。只对暂时性错误做有界重试,不能假设网关取代了超时、幂等和错误策略。