# 最适合的 AI Gateway，取决于谁负责访问、路由与运维

> 不存在对所有团队都有效的通用冠军。KeepRouter 适合希望通过边界明确的公开目录获得托管预付模型访问的团队；Vercel AI Gateway 适合需要 BYOK 与供应商控制的 Vercel 和 AI SDK 工作流；OpenRouter 提供更广的托管路由控制面；Portkey 与 Helicone 更强调控制和可观测；LiteLLM 适合愿意自己运营代理的团队；Cloudflare 与 Kong 则更适合已经由其平台管理流量策略的组织。 [1](https://keeprouter.com/api/openapi.json) [2](https://vercel.com/docs/ai-gateway) [3](https://openrouter.ai/docs/guides/routing/provider-selection) [4](https://portkey.ai/docs/product/ai-gateway) [5](https://docs.litellm.ai/docs/simple_proxy) [6](https://docs.helicone.ai/gateway/overview) [7](https://developers.cloudflare.com/ai-gateway/) [8](https://developer.konghq.com/ai-gateway/)

_最后复核 2026-08-15 · [编辑复核](https://keeprouter.com/editorial-policy#editorial-team)_

![对比托管、BYOK、自托管、云平台与 API 平台网关责任模式的决策图](https://keeprouter.com/editorial/compare/best-ai-gateways.png)

_先确定运行责任，再在匹配的网关模式中比较产品。_

## 按运行模式整理的 AI Gateway 候选名单

这是一份不排序的候选名单，不是性能排名。每个选项代表不同责任模式或产品重点。请在对应对比页与官方来源中核验当前路由、价格与策略。

### [KeepRouter](https://keeprouter.com/zh/features/unified-llm-api)

带公开目录的托管预付模型访问，并为受支持模型提供兼容 API 路由。

### [Vercel AI Gateway](https://keeprouter.com/zh/compare/vercel-ai-gateway)

与 AI SDK 和 Vercel 紧密集成的托管路由，提供供应商选项与 BYOK。

### [OpenRouter](https://keeprouter.com/zh/compare/openrouter)

带请求级供应商路由控制的托管多供应商模型访问。

### [Portkey](https://keeprouter.com/zh/compare/portkey)

提供托管与自托管选择、可观测和治理能力的网关及控制面工具。

### [LiteLLM](https://keeprouter.com/zh/compare/litellm)

适合希望自己运营多供应商控制面的开源代理与 SDK。

### [Helicone](https://keeprouter.com/zh/compare/helicone)

以可观测为重点的平台，包含托管网关、请求日志、成本追踪与评估工作流。

### [Cloudflare AI Gateway](https://keeprouter.com/zh/compare/cloudflare-ai-gateway)

基于 Cloudflare 的 AI 流量控制、日志、安全与路由，并提供 BYOK 和统一计费路径。

### [Kong AI Gateway](https://keeprouter.com/zh/compare/kong-ai-gateway)

建立在 Kong API 平台与部署模式上的 AI、MCP 和 Agent 流量治理。

## 这份候选名单如何形成

本指南比较运行模式，而不是基准分数。选择 AI Gateway 时先回答五个问题：谁拥有供应商账户、谁保存凭证、谁运营数据面、谁结算推理费用、路由失败时谁负责处理。对这些问题给出不同答案的产品，不应被压成一个功能总数。

名单中的每个选项都有当前一手文档、可用模型调用路径，以及工程团队把它纳入候选的独立理由。入选不代表背书。价格、供应商目录与产品条款都会变化，采购时仍应以 2026 年 8 月 15 日核验的官方来源为入口重新确认。

## 决策矩阵

| 需求 | 优先查看 | 入选理由 | 购买前核验 |
|---|---|---|---|
| 一个托管账户和预付模型访问 | KeepRouter | 公开用户目录、受限 Key 与受支持模型的兼容路由 | 准确模型端点、当前价格与私有上游边界 |
| Vercel 与 AI SDK 集成，并使用 BYOK | Vercel AI Gateway | 托管供应商路由与 Vercel 项目集成 | 供应商行为、BYOK 回退与套餐限制 |
| 细粒度请求级供应商偏好 | OpenRouter | 文档化的供应商顺序、过滤、回退与策略字段 | 当前费用、隐私条款与供应商可用性 |
| 网关治理与部署选择 | Portkey | 托管及自托管模式，并包含策略和可观测 | 各版本包含哪些控制，谁运营存储 |
| 自托管 OpenAI 风格代理 | LiteLLM | 团队自己运行代理并连接供应商账户 | 升级、依赖、数据库、高可用和值班工作 |
| 以可观测为中心的 AI 运维 | Helicone | 把网关调用与日志、成本、session 和评估连接 | 保留、套餐限制与协议转换 |
| Cloudflare 原生流量控制 | Cloudflare AI Gateway | AI 流量策略可与 Cloudflare 安全和边缘运维结合 | 当前 REST 路由、日志、统一计费与重试策略 |
| 已有 Kong API 平台 | Kong AI Gateway | 把 Kong 部署和治理扩展到 AI、MCP 与 Agent 流量 | License、插件、供应商账户与平台运维 |

## 按责任选择，不按功能数量选择

目标是减少账户与基础设施工作时，选择托管模型访问；必须保留供应商合同时选择 BYOK；只有基础设施控制值得部署、密钥、存储、补丁和值班成本时才选择自托管；当 AI 调用必须继承现有身份、网络与治理体系时，选择云平台或 API 平台。

[托管与自托管对比](/zh/compare/managed-vs-self-hosted-ai-gateways)会明确拆分这些责任。如果正在替换 OpenRouter，[OpenRouter 替代选项指南](/zh/compare/openrouter-alternatives)从切换原因开始，而不是假设所有产品都是直接替代品。

## 产出一份可供其他团队审计的采购证据包

证据包按工作负载组织，不按产品名称组织。为每条生产工作负载建立一行，写明端点契约、必须保留的模型行为、凭证 owner、数据分级、路由需求、用量归属、失败策略和回滚线路。每个字段标为必需、可选或禁止。工具调用 Agent 与批量 embedding 即使使用同一供应商，也应分成两行，因为候选方案可能只满足其中一条。图像、音频或长时间异步任务同样不能用普通文本请求代替验证。

然后为每个候选建立责任页。明确谁运营网关、谁拥有供应商账户、谁批准模型变更、谁查看日志、谁核对费用，以及故障时由谁接手。每个答案都要链接到当前产品文档、合同条款、配置证据或测试结果。只写"支持"而没有具体路由和测试用例，不足以成为采购证据。只写"厂商负责"而没有服务边界和升级路径，也不能关闭责任项。

最后形成一份决策记录，使用相同的工作负载行把候选标为通过、有条件通过或不通过。有条件通过必须写出缺少的证明、负责人和截止时间。不通过要保留原因，并记录发生什么变化后值得重新评审。工程、安全、财务与采购分别确认自己负责的字段。这样得到的是共享证据包，而不是把个人偏好伪装成带分数的功能表。

## 运行一次代表性验证

1. 固定真实端点、模型、提示词、工具定义、流式行为和输出上限。
2. 为每个候选创建权限与消费边界最窄的 Key。
3. 运行成功请求，再测试无效认证、不支持字段、限流、超时和上游失败。
4. 记录请求模型、最终模型、线路证据、用量、费用、首 token 与终止状态。
5. 检查网关和供应商分别记录哪些提示词、输出与元数据。
6. 把请求与对应账单或额度账本核对。
7. 扩大流量前证明回滚。

使用[如何选择 AI Gateway](/zh/answers/how-to-choose-an-ai-gateway)建立要求表，再用[评估框架](/zh/blog/evaluate-ai-gateway)整理证据矩阵。

## 把成本、迁移和证据结论限制在各自边界内

以完成一个逻辑请求作为比较单位。记录它背后的全部尝试，包括重试、回退与缓存结果，再附上模型费用、网关或平台费用、存储，以及运营该线路所需的人力。一次性评估和迁移工作要与持续成本分列。托管方案可以减少基础设施工作，但不会消除应用测试、访问复核与故障 owner；自托管方案可以改变直接费用，同时增加部署、升级和值班工作。具体单价始终从审批当天的官方页面和实时目录读取，不复制到本文。

迁移按可回滚的小批次执行。先选择证据包中契约明确、风险较低的一条工作负载，同时迁移凭证、端点和监控。核对用量与账单、执行回滚，再决定下一条线路。一次文本请求成功，不能批准尚未测试的工具调用、streaming、图像或其他模态。每一批都要保留旧路径的停止条件，避免新旧系统长期同时运行却没人负责退出。

每项结论必须对应能够支持它的证据。官方文档只能证明厂商发布了某项能力或政策；配置后的测试只能证明该线路在测试时间的行为；用量导出和账单分别证明所在层的记录。任何一种证据都不能单独证明通用速度、更低总成本或未来持续可用。所需路由、合同、数据规则或团队约束发生变化时，重新打开证据包，而不是只更新页面日期。

## KeepRouter 适合与不适合的边界

当实时目录已经包含需要的模型和端点，并且团队希望使用托管访问和预付计费而不运营供应商策略时，KeepRouter 是一个直接选项。如果应用必须指定并排列供应商、带入上游凭证、自托管网关、继承云 IAM 平台，或使用文档路由之外的供应商原生能力，KeepRouter 就不合适。

[实时模型目录](/models)负责 KeepRouter 的模型与价格事实。不要把本指南当成任何模型、价格或模态持续可用的证明。

## 常见问题

### 哪个 AI Gateway 最好？

答案取决于运行责任。先选择托管访问、BYOK、自托管或云平台，再比较同一模式中的产品。

### 这份名单按速度排名吗？

不是。这里没有统一基准，应测量应用需要的准确区域、模型、线路、载荷与分位数。

### 所有网关都包含模型计费吗？

不是。托管目录可以结算模型用量，BYOK 与自托管产品通常使用客户自己的供应商账户。

### 一个测试提示词能证明兼容吗？

不能。批准前应测试非流式、流式、工具、错误、用量与准确生产载荷。

### 多久重新检查这份名单？

当所需路由、模型、价格、供应商策略、部署需求或团队约束变化时重新检查。

## 参考的一手资料

_来源复核日期 2026-08-15_

1. [KeepRouter OpenAPI](https://keeprouter.com/api/openapi.json)
2. [Vercel AI Gateway](https://vercel.com/docs/ai-gateway)
3. [OpenRouter provider routing](https://openrouter.ai/docs/guides/routing/provider-selection)
4. [Portkey AI Gateway](https://portkey.ai/docs/product/ai-gateway)
5. [LiteLLM proxy](https://docs.litellm.ai/docs/simple_proxy)
6. [Helicone AI Gateway](https://docs.helicone.ai/gateway/overview)
7. [Cloudflare AI Gateway](https://developers.cloudflare.com/ai-gateway/)
8. [Kong AI Gateway](https://developer.konghq.com/ai-gateway/)

## 继续阅读

- [如何选择 AI Gateway？](https://keeprouter.com/zh/answers/how-to-choose-an-ai-gateway.md)
- [OpenRouter 替代选项](https://keeprouter.com/zh/compare/openrouter-alternatives.md)
- [托管与自托管 AI Gateway](https://keeprouter.com/zh/compare/managed-vs-self-hosted-ai-gateways.md)
- [AI Gateway 对比供应商直连 API](https://keeprouter.com/zh/compare/direct-provider-apis.md)
- [KeepRouter 对比 Amazon Bedrock](https://keeprouter.com/zh/compare/amazon-bedrock.md)
- [KeepRouter 对比 Gemini Enterprise Agent Platform](https://keeprouter.com/zh/compare/gemini-enterprise-agent-platform.md)
- [KeepRouter 对比 Microsoft Foundry](https://keeprouter.com/zh/compare/microsoft-foundry.md)
- [KeepRouter 对比 Hugging Face Inference Providers](https://keeprouter.com/zh/compare/hugging-face-inference-providers.md)
- [如何用证据型评分卡评估 AI Gateway](https://keeprouter.com/zh/blog/evaluate-ai-gateway.md)
- [什么是 BYOK AI Gateway？](https://keeprouter.com/zh/answers/what-is-byok-ai-gateway.md)
- [AI Gateway 安全吗？](https://keeprouter.com/zh/answers/is-an-ai-gateway-secure.md)
- [AI Gateway 会增加延迟吗？](https://keeprouter.com/zh/answers/does-ai-gateway-add-latency.md)
- [models](https://keeprouter.com/models.md)

## 把候选名单变成一次真实请求

使用实时目录和权限受限的 Key，测试应用真正需要的端点、模型、用量与失败行为。

[创建免费 Key](https://keeprouter.com/login?returnTo=%2Fconsole%2Fkeys%3Fmodel%3Dfree) · [实时模型与价格](https://keeprouter.com/models.md)