按适配场景选择

最适合的 AI Gateway，取决于谁负责访问、路由与运维

不存在对所有团队都有效的通用冠军。KeepRouter 适合希望通过边界明确的公开目录获得托管预付模型访问的团队；Vercel AI Gateway 适合需要 BYOK 与供应商控制的 Vercel 和 AI SDK 工作流；OpenRouter 提供更广的托管路由控制面；Portkey 与 Helicone 更强调控制和可观测；LiteLLM 适合愿意自己运营代理的团队；Cloudflare 与 Kong 则更适合已经由其平台管理流量策略的组织。 [1] [2] [3] [4] [5] [6] [7] [8]

最后复核 2026-08-15 · 编辑复核: KeepRouter Editorial

对比托管、BYOK、自托管、云平台与 API 平台网关责任模式的决策图 — 先确定运行责任，再在匹配的网关模式中比较产品。

按运行模式整理的 AI Gateway 候选名单

这是一份不排序的候选名单，不是性能排名。每个选项代表不同责任模式或产品重点。请在对应对比页与官方来源中核验当前路由、价格与策略。

KeepRouter
带公开目录的托管预付模型访问，并为受支持模型提供兼容 API 路由。
Vercel AI Gateway
与 AI SDK 和 Vercel 紧密集成的托管路由，提供供应商选项与 BYOK。
OpenRouter
带请求级供应商路由控制的托管多供应商模型访问。
Portkey
提供托管与自托管选择、可观测和治理能力的网关及控制面工具。
LiteLLM
适合希望自己运营多供应商控制面的开源代理与 SDK。
Helicone
以可观测为重点的平台，包含托管网关、请求日志、成本追踪与评估工作流。
Cloudflare AI Gateway
基于 Cloudflare 的 AI 流量控制、日志、安全与路由，并提供 BYOK 和统一计费路径。
Kong AI Gateway
建立在 Kong API 平台与部署模式上的 AI、MCP 和 Agent 流量治理。

这份候选名单如何形成

本指南比较运行模式，而不是基准分数。选择 AI Gateway 时先回答五个问题：谁拥有供应商账户、谁保存凭证、谁运营数据面、谁结算推理费用、路由失败时谁负责处理。对这些问题给出不同答案的产品，不应被压成一个功能总数。

名单中的每个选项都有当前一手文档、可用模型调用路径，以及工程团队把它纳入候选的独立理由。入选不代表背书。价格、供应商目录与产品条款都会变化，采购时仍应以 2026 年 8 月 15 日核验的官方来源为入口重新确认。

决策矩阵

需求	优先查看	入选理由	购买前核验
一个托管账户和预付模型访问	KeepRouter	公开用户目录、受限 Key 与受支持模型的兼容路由	准确模型端点、当前价格与私有上游边界
Vercel 与 AI SDK 集成，并使用 BYOK	Vercel AI Gateway	托管供应商路由与 Vercel 项目集成	供应商行为、BYOK 回退与套餐限制
细粒度请求级供应商偏好	OpenRouter	文档化的供应商顺序、过滤、回退与策略字段	当前费用、隐私条款与供应商可用性
网关治理与部署选择	Portkey	托管及自托管模式，并包含策略和可观测	各版本包含哪些控制，谁运营存储
自托管 OpenAI 风格代理	LiteLLM	团队自己运行代理并连接供应商账户	升级、依赖、数据库、高可用和值班工作
以可观测为中心的 AI 运维	Helicone	把网关调用与日志、成本、session 和评估连接	保留、套餐限制与协议转换
Cloudflare 原生流量控制	Cloudflare AI Gateway	AI 流量策略可与 Cloudflare 安全和边缘运维结合	当前 REST 路由、日志、统一计费与重试策略
已有 Kong API 平台	Kong AI Gateway	把 Kong 部署和治理扩展到 AI、MCP 与 Agent 流量	License、插件、供应商账户与平台运维

按责任选择，不按功能数量选择

目标是减少账户与基础设施工作时，选择托管模型访问；必须保留供应商合同时选择 BYOK；只有基础设施控制值得部署、密钥、存储、补丁和值班成本时才选择自托管；当 AI 调用必须继承现有身份、网络与治理体系时，选择云平台或 API 平台。

托管与自托管对比会明确拆分这些责任。如果正在替换 OpenRouter，OpenRouter 替代选项指南从切换原因开始，而不是假设所有产品都是直接替代品。

产出一份可供其他团队审计的采购证据包

证据包按工作负载组织，不按产品名称组织。为每条生产工作负载建立一行，写明端点契约、必须保留的模型行为、凭证 owner、数据分级、路由需求、用量归属、失败策略和回滚线路。每个字段标为必需、可选或禁止。工具调用 Agent 与批量 embedding 即使使用同一供应商，也应分成两行，因为候选方案可能只满足其中一条。图像、音频或长时间异步任务同样不能用普通文本请求代替验证。

然后为每个候选建立责任页。明确谁运营网关、谁拥有供应商账户、谁批准模型变更、谁查看日志、谁核对费用，以及故障时由谁接手。每个答案都要链接到当前产品文档、合同条款、配置证据或测试结果。只写"支持"而没有具体路由和测试用例，不足以成为采购证据。只写"厂商负责"而没有服务边界和升级路径，也不能关闭责任项。

最后形成一份决策记录，使用相同的工作负载行把候选标为通过、有条件通过或不通过。有条件通过必须写出缺少的证明、负责人和截止时间。不通过要保留原因，并记录发生什么变化后值得重新评审。工程、安全、财务与采购分别确认自己负责的字段。这样得到的是共享证据包，而不是把个人偏好伪装成带分数的功能表。

运行一次代表性验证

固定真实端点、模型、提示词、工具定义、流式行为和输出上限。
为每个候选创建权限与消费边界最窄的 Key。
运行成功请求，再测试无效认证、不支持字段、限流、超时和上游失败。
记录请求模型、最终模型、线路证据、用量、费用、首 token 与终止状态。
检查网关和供应商分别记录哪些提示词、输出与元数据。
把请求与对应账单或额度账本核对。
扩大流量前证明回滚。

使用如何选择 AI Gateway建立要求表，再用评估框架整理证据矩阵。

把成本、迁移和证据结论限制在各自边界内

以完成一个逻辑请求作为比较单位。记录它背后的全部尝试，包括重试、回退与缓存结果，再附上模型费用、网关或平台费用、存储，以及运营该线路所需的人力。一次性评估和迁移工作要与持续成本分列。托管方案可以减少基础设施工作，但不会消除应用测试、访问复核与故障 owner；自托管方案可以改变直接费用，同时增加部署、升级和值班工作。具体单价始终从审批当天的官方页面和实时目录读取，不复制到本文。

迁移按可回滚的小批次执行。先选择证据包中契约明确、风险较低的一条工作负载，同时迁移凭证、端点和监控。核对用量与账单、执行回滚，再决定下一条线路。一次文本请求成功，不能批准尚未测试的工具调用、streaming、图像或其他模态。每一批都要保留旧路径的停止条件，避免新旧系统长期同时运行却没人负责退出。

每项结论必须对应能够支持它的证据。官方文档只能证明厂商发布了某项能力或政策；配置后的测试只能证明该线路在测试时间的行为；用量导出和账单分别证明所在层的记录。任何一种证据都不能单独证明通用速度、更低总成本或未来持续可用。所需路由、合同、数据规则或团队约束发生变化时，重新打开证据包，而不是只更新页面日期。

KeepRouter 适合与不适合的边界

当实时目录已经包含需要的模型和端点，并且团队希望使用托管访问和预付计费而不运营供应商策略时，KeepRouter 是一个直接选项。如果应用必须指定并排列供应商、带入上游凭证、自托管网关、继承云 IAM 平台，或使用文档路由之外的供应商原生能力，KeepRouter 就不合适。

实时模型目录负责 KeepRouter 的模型与价格事实。不要把本指南当成任何模型、价格或模态持续可用的证明。

常见问题

哪个 AI Gateway 最好？

答案取决于运行责任。先选择托管访问、BYOK、自托管或云平台，再比较同一模式中的产品。

这份名单按速度排名吗？

不是。这里没有统一基准，应测量应用需要的准确区域、模型、线路、载荷与分位数。

所有网关都包含模型计费吗？

不是。托管目录可以结算模型用量，BYOK 与自托管产品通常使用客户自己的供应商账户。

一个测试提示词能证明兼容吗？

不能。批准前应测试非流式、流式、工具、错误、用量与准确生产载荷。

多久重新检查这份名单？

当所需路由、模型、价格、供应商策略、部署需求或团队约束变化时重新检查。

参考的一手资料

来源复核日期 2026-08-15

最适合的 AI Gateway，取决于谁负责访问、路由与运维

按运行模式整理的 AI Gateway 候选名单

KeepRouter

Vercel AI Gateway

OpenRouter

Portkey

LiteLLM

Helicone

Cloudflare AI Gateway

Kong AI Gateway