# AI Gateway 对比供应商直连 API：什么时候值得增加一层

> 供应商直连 API 提供到原生能力、合同与支持的最短路径。只有多个应用需要共享凭证、模型访问、路由、消费策略或请求证据时，AI Gateway 增加的一跳才值得。单一稳定供应商或独有原生能力适合直连；重复接入与治理已经成为实际运行成本时，适合使用网关。 [1](https://developers.openai.com/api/reference/overview) [2](https://docs.anthropic.com/en/api/overview) [3](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html) [4](https://vercel.com/docs/ai-gateway) [5](https://developers.cloudflare.com/ai-gateway/) [6](https://keeprouter.com/api/openapi.json)

_最后复核 2026-08-15 · [编辑复核](https://keeprouter.com/editorial-policy#editorial-team)_

![供应商直连、AI Gateway 与明确分流架构的线路决策图](https://keeprouter.com/editorial/compare/direct-provider-apis.png)

_原生能力有需要时保持直连，只集中真实工作负载共享的策略。_

## 实际差异

| 决策 | 供应商直连 API | AI Gateway |
|---|---|---|
| API 契约 | 供应商原生，通常最早提供新能力 | 带明确边界的兼容或规范契约 |
| 凭证 | 每个供应商和环境一套 | 网关 Key，加运营方或客户上游凭证 |
| 计费 | 供应商账单与合同 | 网关额度、BYOK、平台费或混合模式 |
| 模型发现 | 供应商目录 | 多供应商或精选网关目录 |
| 路由 | 应用选择并实现 | 网关集中管理合格线路与策略 |
| 证据 | 供应商日志与应用遥测 | 网关请求记录，加可暴露的上游证据 |
| 故障域 | 供应商与应用集成 | 网关、供应商以及策略或存储依赖 |

两种方式都不会天然更可靠或更安全。直连移除中间层，却可能在多个服务中重复 Key、重试逻辑和计费；网关集中这些关注点，也会成为新的信任与可用性边界。

## 原生深度优先时选择直连

产品依赖刚发布端点、准确推理控制、批处理、微调、供应商专用工具、云 deployment 合同，或绑定供应商账户的支持升级时，使用原生 API。兼容层通常先覆盖常用操作，可能转换、忽略或拒绝供应商专属字段。

直连也适合单一负责人、单一供应商，并且没有共享费用或审计要求的小型工作负载。满足契约的最简单架构通常更容易调试。

## 共享策略优先时选择网关

多个应用重复实现相同认证、模型目录、用量归属、限额、重试策略或供应商集成时，适合使用网关。它可以给多个团队提供统一受限 Key 和请求证据模型。托管访问还能减少供应商开通，BYOK 则能在保留供应商合同的同时集中控制。

采用信号见[什么时候使用 AI Gateway](/zh/answers/when-should-you-use-an-ai-gateway)。如果企业已有流量层，再看 [AI Gateway 与 API Gateway](/zh/answers/ai-gateway-vs-api-gateway)。

## 不要把语法等同于可移植性

OpenAI 兼容请求可以减少 SDK 修改，但模型仍有自己的工具质量、安全行为、token 限制、错误语义与流事件。Anthropic Messages 与 OpenAI Responses 是不同契约，图像、音频和向量也通常使用专用路由。

[OpenAI 兼容答案](/zh/answers/what-is-an-openai-compatible-api)与[迁移清单](/zh/blog/openai-compatible-api-migration-checklist)提供字段级测试。当某项能力无法通过网关安全表达时，应保留供应商原生路径。

## 产出一份可部署的路由决策登记表

按生产操作建立行，而不是按供应商建立行。应用实际使用 Chat、Responses 风格 Agent 续轮、Messages 风格调用、embedding、图像或音频、批任务、微调中的哪些操作，就分别记录哪些。每一行写明当前端点、必须保留的模型行为、供应商专属字段、认证 owner、数据分级、重试规则、用量归属和回滚线路。没有使用的能力不要为了让表格显得完整而加入。

每一行只能选择网关、直连或临时例外。选择网关时，要附上一份通过目标网关运行的固定 fixture，证明流事件、工具参数、用量字段与错误处理满足契约。选择直连时，要写明网关无法表达的原生能力、账户合同或部署要求。临时例外必须有 owner、结束条件和重新测试的触发事件，例如目标网关新增了所需端点。"暂时保留"如果没有这些字段，就会永久留在架构里。

把登记表放在部署配置旁边，并让每一行链接到对应契约测试和数据流审查。配置评审要同时检查实际生产 route 与批准 route，避免两者悄悄偏离。最终产物是一张能直接用于发布检查的路由图，也能阻止一个笼统的"网关迁移"项目掩盖仍然依赖供应商 SDK 或账户专属能力的操作。

## 使用相同工作负载比较两条路径

1. 固定端点、模型版本、提示词、工具与输出上限。
2. 从同一客户端区域运行直连与网关请求。
3. 记录首 token、终止状态、用量、费用与错误体。
4. 测试无效认证、限流、超时、流式取消和工具续轮。
5. 检查路径中每家公司的数据日志与保留。
6. 除推理价格外，还要计算人力与基础设施工作。
7. 决定哪些原生能力可以绕过网关，并记录例外。

测量方法见[网关是否增加延迟](/zh/answers/does-ai-gateway-add-latency)，数据流审查见[AI Gateway 安全吗](/zh/answers/is-an-ai-gateway-secure)。

## 限定迁移成本与证据能够支持的结论

成本表先记录当前直连路径。除了供应商费用，还要加入维护 SDK、轮换凭证、更新错误处理、核对多张账单，以及在多个应用中重复审计控制的工作。然后记录候选网关路径：模型费用、可能的网关或平台费用、接入工作、telemetry 存储、新增可用性边界，以及负责路由策略的人员。分流架构会同时保留两套控制，因此重复监控、runbook 和安全审查也要计入，不能把直连接口例外当成零成本。

每次只迁移一个可回滚操作。固定模型、payload、输出上限与客户端区域，再比较成功调用、流式取消、工具续轮、限流、超时和错误请求。只有当用量与账单记录可以核对、故障 owner 已确定、回滚已经演练后，才移除旧线路。[OpenAI 兼容迁移清单](/zh/blog/openai-compatible-api-migration-checklist)提供字段级用例，路由登记表则决定每条线路需要执行哪些用例。

结论不能超出证据范围。供应商账单可以证明该供应商费用，却不能证明网关内部实际线路；网关日志可以证明该层记录了什么，却不能证明上游账单已经结算；某个模型与区域的延迟样本也不能支持通用速度结论。把工作量估算、缓存命中、重试策略和测试时间段等假设写在数字旁边。当端点、合同、数据规则或工作负载变化时，重新打开决策，而不是沿用旧结论。

## 分流架构可能是最诚实的答案

团队可以让常见文本与 Agent 工作负载通过网关，同时让微调、批任务或独有模态保持直连。只集中真正共享的策略，并让请求 ID 与费用责任足够一致，使两条路径在故障时都可运营。

## 常见问题

### 直连 API 一定更快吗？

它少一次网关跳转，但总延迟还取决于网络、供应商路由、重试和生成，应实测两条路径。

### 网关能隐藏所有供应商差异吗？

不能。它可以规范部分请求格式，但模型能力、限制、错误和行为仍不同。

### 可以同时使用直连与网关吗？

可以。供应商原生操作保持直连，共享策略有价值的负载使用网关，并记录分流边界。

### 哪条路径更容易计费？

一个托管网关可以简化用户计费；直连和 BYOK 保留供应商账单，但可能需要更多内部归属工作。

### 什么时候应从直连迁移到网关？

当重复凭证、接入、路由、消费控制或请求证据带来的工作超过网关新增成本时。

## 参考的一手资料

_来源复核日期 2026-08-15_

1. [OpenAI API reference](https://developers.openai.com/api/reference/overview)
2. [Anthropic API overview](https://docs.anthropic.com/en/api/overview)
3. [Amazon Bedrock APIs](https://docs.aws.amazon.com/bedrock/latest/userguide/apis.html)
4. [Vercel AI Gateway](https://vercel.com/docs/ai-gateway)
5. [Cloudflare AI Gateway](https://developers.cloudflare.com/ai-gateway/)
6. [KeepRouter OpenAPI](https://keeprouter.com/api/openapi.json)

## 继续阅读

- [什么时候应该使用 AI Gateway？](https://keeprouter.com/zh/answers/when-should-you-use-an-ai-gateway.md)
- [AI Gateway 与 API Gateway 有什么区别？](https://keeprouter.com/zh/answers/ai-gateway-vs-api-gateway.md)
- [什么是 OpenAI 兼容 API？](https://keeprouter.com/zh/answers/what-is-an-openai-compatible-api.md)
- [KeepRouter 对比 Amazon Bedrock](https://keeprouter.com/zh/compare/amazon-bedrock.md)
- [KeepRouter 对比 Gemini Enterprise Agent Platform](https://keeprouter.com/zh/compare/gemini-enterprise-agent-platform.md)
- [KeepRouter 对比 Microsoft Foundry](https://keeprouter.com/zh/compare/microsoft-foundry.md)
- [KeepRouter 对比 Hugging Face Inference Providers](https://keeprouter.com/zh/compare/hugging-face-inference-providers.md)
- [OpenAI 兼容 API 迁移清单](https://keeprouter.com/zh/blog/openai-compatible-api-migration-checklist.md)
- [AI Gateway 会增加延迟吗？](https://keeprouter.com/zh/answers/does-ai-gateway-add-latency.md)
- [AI Gateway 安全吗？](https://keeprouter.com/zh/answers/is-an-ai-gateway-secure.md)
- [按场景选择 AI Gateway](https://keeprouter.com/zh/compare/best-ai-gateways.md)
- [models](https://keeprouter.com/models.md)

## 把候选名单变成一次真实请求

使用实时目录和权限受限的 Key，测试应用真正需要的端点、模型、用量与失败行为。

[创建免费 Key](https://keeprouter.com/login?returnTo=%2Fconsole%2Fkeys%3Fmodel%3Dfree) · [实时模型与价格](https://keeprouter.com/models.md)