开源与自建 共 10 家

开源自建网关与部署工具,可自己搭一套中转服务,数据完全自持,适合有运维能力的技术团队。

SambaNova

sambanova.ai
已验证 稳定性 极稳 GPT DeepSeek 海外/全球

海外/全球接入,覆盖 GPT、DeepSeek 等模型,近 30 天可用率 96.7%,首页响应约 76ms,底层引擎 dify。

评分 8.1 可用率 100% 延迟 608ms 模型 6
开源项目 稳定性 较差 Claude GPT Gemini 海外/全球

海外/全球接入,覆盖 Claude、GPT、Gemini 等模型,近 30 天可用率 96.7%,首页响应约 560ms,底层引擎 helicone,支持 信用卡 充值。

评分 7.0 可用率 70.49% 延迟 1077ms
开源项目 稳定性 较差 Claude GPT Gemini 海外/全球

海外/全球接入,覆盖 Claude、GPT、Gemini、DeepSeek、通义千问 等模型,近 30 天可用率 96.7%,首页响应约 583ms。

评分 6.8 可用率 70.49% 延迟 1100ms
开源项目 稳定性 较差 Claude GPT 海外/全球

海外/全球接入,覆盖 Claude、GPT 等模型,近 30 天可用率 96.7%,首页响应约 690ms。

评分 6.6 可用率 70.49% 延迟 1463ms

GitHub (berriai/litellm)

github.com
开源项目 稳定性 较差 Claude GPT Gemini 海外/全球

海外/全球接入,覆盖 Claude、GPT、Gemini 等模型,近 30 天可用率 96.7%,首页响应约 586ms,底层引擎 litellm。

评分 6.6 可用率 70.49% 延迟 1107ms
待复核 稳定性 极稳 GPT 海外/全球

海外/全球接入,覆盖 GPT 等模型,近 30 天可用率 96.7%,首页响应约 114ms,底层引擎 langdb。(该站尚在复核中,未确认 /v1 接口真实性,请注意甄别。)

评分 6.4 可用率 100% 延迟 994ms

GitHub (labring/FastGPT)

github.com
待复核 稳定性 较差 GPT 海外/全球

海外/全球接入,覆盖 GPT 等模型,近 30 天可用率 96.7%,首页响应约 627ms,底层引擎 fastgpt。(该站尚在复核中,未确认 /v1 接口真实性,请注意甄别。)

评分 6.4 可用率 75.41% 延迟 1032ms
待复核 稳定性 较差 Claude 海外/全球

海外/全球接入,覆盖 Claude 等模型,近 30 天可用率 96.7%,首页响应约 591ms,底层引擎 portkey。(该站尚在复核中,未确认 /v1 接口真实性,请注意甄别。)

评分 6.4 可用率 72.13% 延迟 1084ms

GitHub (langgenius/dify)

github.com
待复核 稳定性 较差 Claude 自建部署

自建部署接入,覆盖 Claude 等模型,近 30 天可用率 96.7%,首页响应约 673ms,底层引擎 dify。(该站尚在复核中,未确认 /v1 接口真实性,请注意甄别。)

评分 6.4 可用率 72.13% 延迟 1136ms

dify.ai

dify.ai
待复核 稳定性 极稳 海外/全球

开源 LLM 应用开发平台,可自建部署并通过其模型供应商配置接入各类 API,本身也是许多中转站的底层编排层。

评分 6.2 可用率 100% 延迟 931ms

关于「开源与自建」这一类

这一类不是「中转站」,而是可以自己搭一套中转服务的开源项目,代表有 One API、New API、LiteLLM 等。它们的共同点是:代码开放、可自行部署、数据完全由自己掌握。

什么情况下值得自建?判断标准比较清楚:一是数据敏感度确实高,不能容忍请求经过第三方;二是调用量大到足以摊平运维成本;三是团队里有人能承担部署与维护。三条里缺一条,用现成服务通常更划算。

自建的成本不只在服务器。还需要考虑:上游 Key 的来源(要自己对接各厂商开放平台)、高可用设计(单机部署挂了就全停)、以及持续维护(上游接口变化需要跟着改)。把这些算进去之后,「自建更便宜」往往并不成立 —— 它换来的是可控性,不是省钱。

一个务实的折中方案是自建网关 + 官方上游:用 One API 这类工具做统一鉴权、限额与日志,上游直连各厂商官方平台。这样既保住了数据与账务的自主,也不用自己处理转发链路。

这一类里怎么选

下面几条是按当前实测数据实时算出来的,不是写死的结论 —— 数据一变,推荐就会跟着变。每一条都标了依据,你可以点进详情页自己核对。

  • 要最稳的:按当前可用率排序取最高。样本数越少越可能失真,本站标注了数据来源(公开数据集 / 本站实测),可点进详情页核对。
  • 要响应最快的:按最近一次探测的首页响应时间排序。单次测量波动较大,更适合当作参考区间而不是绝对值。
  • 要模型覆盖最广的:这里用的是接口实测探到的模型数量,不是站点宣传的支持列表 —— 两者口径不同,宣传值通常更乐观。

关键参数横向对比

每类取综合评分靠前的 10 家做对照。其中 0 家已确认存在 /v1/models 接口 —— 这个数字是实测探到的,不是站点自述。

中转站地区 可用率延迟模型数 支付接口
SambaNova
sambanova.ai
海外/全球 100% 608 ms 6 — 未确认
GitHub (helicone/helicone)
github.com
海外/全球 70.49% 1077 ms — 信用卡 未确认
GitHub (1Panel-dev/MaxKB)
github.com
海外/全球 70.49% 1100 ms — — 未确认
GitHub (VoltAgent/voltagent)
github.com
海外/全球 70.49% 1463 ms — — 未确认
GitHub (berriai/litellm)
github.com
海外/全球 70.49% 1107 ms — — 未确认
GitHub (Portkey-Ai/gateway)
github.com
海外/全球 72.13% 1084 ms — — 未确认
GitHub (labring/FastGPT)
github.com
海外/全球 75.41% 1032 ms — — 未确认
GitHub (langgenius/dify)
github.com
自建部署 72.13% 1136 ms — — 未确认
The Fastest Enterprise AI Gateway
langdb.ai
海外/全球 100% 994 ms — — 未确认
dify.ai
dify.ai
海外/全球 100% 931 ms — 信用卡 未确认

常见问题

这一类目下被问得最多的几个问题。答案里的判断标准适用于整个类别,不针对某一家站点。

自建中转比用现成服务便宜吗?

多数情况下不便宜,除非调用量很大。自建省下的是「倍率加价」,但要额外付出服务器费用、部署与维护的人力、以及高可用设计的成本。如果月调用量不大,现成服务的加价通常低于自建的隐性成本。

One API 和 New API 有什么区别?

New API 是在 One API 基础上继续维护的分支,功能上更活跃、对较新的协议支持更及时。选择时主要看维护活跃度与你需要的上游适配范围,两者都支持多上游统一接入的核心能力。

自建之后上游 Key 从哪来?

需要你自己在模型厂商的开放平台注册并获取。这意味着要处理各家不同的实名要求、支付方式与配额限制 —— 这部分工作量常被低估。如果只是为了避免加价,先算清这部分成本再决定。

自建网关能保证不降级、不掺假吗?

能。这正是自建最实际的价值:链路里没有第三方,你请求什么模型就真的打到那个模型。代价是要自己承担上游的稳定性问题,官方平台限流时你没有替代通道。

小团队适合自建吗?

如果没有人能持续维护,不建议。自建要求能跟进上游接口变化、处理证书与域名、做备份与监控。折中做法是先用现成服务,等调用量与数据敏感度都到一个门槛之后再评估。

这一类里继续看

分类页看的是「有哪些站」,下面这几页看的是「谁更稳、谁更快、谁更便宜」—— 两者配合看,比单看任何一边都更有判断力。