直接回答
什么是 AI Gateway？
AI Gateway 位于应用与一个或多个模型 API 之间，可集中认证、提供兼容请求格式、选择合格线路、计量用量并执行访问或消费边界。它不会让不同模型变得等价，也不能替代应用级评估与错误处理。
最后复核 2026-08-15 · 编辑复核: KeepRouter Editorial
请求链路
应用 -> AI Gateway -> 合格模型线路 -> 模型厂商
<- 规范响应与实测用量 <-应用向网关认证并指定模型或路由策略。网关校验 Key、检查路由兼容性与商业规则、转发请求，再返回客户端响应和用量记录。托管网关还可能为公开目录提供统一计费关系；自托管网关通常连接团队已有的供应商凭证。
常被集中管理的部分
- API Key、模型白名单、速率或消费控制；
- OpenAI 或 Anthropic 形态兼容路由；
- canonical 模型 ID 与线路资格；
- 请求状态、token、延迟与费用归因；
- 同一公共模型的合格线路间有界重试或故障转移。
不能安全统一的部分
工具语义、推理字段、图像输入、上下文限制、结构化输出、安全行为、区域可用性和回答质量都随模型与线路变化。“兼容”描述客户端契约，不等于能力一致。若应用没有提供幂等性，网关也无法让带副作用的 Agent 重试自动安全。
托管、自托管还是直连
如果想要低运维的托管访问和计费层，使用托管网关；如果基础设施控制、自定义策略和自带供应商凭证值得自己维护代理与数据存储，使用自托管；如果核心需求是某一家独有能力或合同，则使用直连 API。
何时可能需要
多个服务共享模型访问、团队需要可归因 Key 与消费上限、频繁评估模型，或同一兼容客户端要访问多家厂商时，AI Gateway 很有用。只有一个稳定供应商的小负载，直连可能更简单。
需要具体决策顺序时，使用如何选择 AI Gateway；再用托管与自托管对比明确部署、凭证、数据和值班责任。
常见问题
AI Gateway 和普通 API Gateway 一样吗？
它把 API 网关控制应用到模型 ID、token、工具流和供应商线路等模型特有问题。
AI Gateway 会自动提高回答质量吗？
不会。质量取决于模型、提示词、上下文、工具和你的评估。
它能隐藏所有供应商差异吗？
不能。它可规范常见请求格式，但模型专有能力和行为仍然不同。
应该托管还是自建网关？
降低运维选托管，需要更深基础设施与凭证控制则选自建。