# 什么是 AI Gateway？

> AI Gateway 位于应用与一个或多个模型 API 之间，可集中认证、提供兼容请求格式、选择合格线路、计量用量并执行访问或消费边界。它不会让不同模型变得等价，也不能替代应用级评估与错误处理。

_最后复核 2026-08-15 · [编辑复核](https://keeprouter.com/editorial-policy#editorial-team)_

## 请求链路

```text
应用 -> AI Gateway -> 合格模型线路 -> 模型厂商
     <- 规范响应与实测用量 <-
```

应用向网关认证并指定模型或路由策略。网关校验 Key、检查路由兼容性与商业规则、转发请求，再返回客户端响应和用量记录。托管网关还可能为公开目录提供统一计费关系；自托管网关通常连接团队已有的供应商凭证。

## 常被集中管理的部分

- API Key、模型白名单、速率或消费控制；
- OpenAI 或 Anthropic 形态兼容路由；
- canonical 模型 ID 与线路资格；
- 请求状态、token、延迟与费用归因；
- 同一公共模型的合格线路间有界重试或故障转移。

## 不能安全统一的部分

工具语义、推理字段、图像输入、上下文限制、结构化输出、安全行为、区域可用性和回答质量都随模型与线路变化。“兼容”描述客户端契约，不等于能力一致。若应用没有提供幂等性，网关也无法让带副作用的 Agent 重试自动安全。

## 托管、自托管还是直连

如果想要低运维的托管访问和计费层，使用托管网关；如果基础设施控制、自定义策略和自带供应商凭证值得自己维护代理与数据存储，使用自托管；如果核心需求是某一家独有能力或合同，则使用直连 API。

## 何时可能需要

多个服务共享模型访问、团队需要可归因 Key 与消费上限、频繁评估模型，或同一兼容客户端要访问多家厂商时，AI Gateway 很有用。只有一个稳定供应商的小负载，直连可能更简单。

需要具体决策顺序时，使用[如何选择 AI Gateway](/zh/answers/how-to-choose-an-ai-gateway)；再用[托管与自托管对比](/zh/compare/managed-vs-self-hosted-ai-gateways)明确部署、凭证、数据和值班责任。

## 常见问题

### AI Gateway 和普通 API Gateway 一样吗？

它把 API 网关控制应用到模型 ID、token、工具流和供应商线路等模型特有问题。

### AI Gateway 会自动提高回答质量吗？

不会。质量取决于模型、提示词、上下文、工具和你的评估。

### 它能隐藏所有供应商差异吗？

不能。它可规范常见请求格式，但模型专有能力和行为仍然不同。

### 应该托管还是自建网关？

降低运维选托管，需要更深基础设施与凭证控制则选自建。

## 参考的一手资料

1. [Cloudflare AI Gateway overview](https://developers.cloudflare.com/ai-gateway/)
2. [Kong AI Gateway overview](https://developer.konghq.com/ai-gateway/)

## 继续阅读

- [统一 LLM API](https://keeprouter.com/zh/features/unified-llm-api.md)
- [KeepRouter 对比 LiteLLM](https://keeprouter.com/zh/compare/litellm.md)
- [AI Gateway 指南：它控制什么、何时需要，以及如何落地](https://keeprouter.com/zh/blog/ai-gateway-guide.md)
- [工程团队](https://keeprouter.com/zh/built-for/engineering-teams.md)

## 用线上产品验证答案

查看实时模型目录，创建限定 free 模型的 Key，并检查生成的请求证据。

[创建免费 Key](https://keeprouter.com/login?returnTo=%2Fconsole%2Fkeys%3Fmodel%3Dfree) · [实时模型与价格](https://keeprouter.com/models.md)