SambaNova
海外/全球接入,覆盖 GPT、DeepSeek 等模型,近 30 天可用率 96.7%,首页响应约 76ms,底层引擎 dify。
开源自建网关与部署工具,可自己搭一套中转服务,数据完全自持,适合有运维能力的技术团队。
海外/全球接入,覆盖 GPT、DeepSeek 等模型,近 30 天可用率 96.7%,首页响应约 76ms,底层引擎 dify。
海外/全球接入,覆盖 Claude、GPT、Gemini 等模型,近 30 天可用率 96.7%,首页响应约 560ms,底层引擎 helicone,支持 信用卡 充值。
海外/全球接入,覆盖 Claude、GPT、Gemini、DeepSeek、通义千问 等模型,近 30 天可用率 96.7%,首页响应约 583ms。
海外/全球接入,覆盖 Claude、GPT 等模型,近 30 天可用率 96.7%,首页响应约 690ms。
海外/全球接入,覆盖 Claude、GPT、Gemini 等模型,近 30 天可用率 96.7%,首页响应约 586ms,底层引擎 litellm。
海外/全球接入,覆盖 GPT 等模型,近 30 天可用率 96.7%,首页响应约 114ms,底层引擎 langdb。(该站尚在复核中,未确认 /v1 接口真实性,请注意甄别。)
海外/全球接入,覆盖 GPT 等模型,近 30 天可用率 96.7%,首页响应约 627ms,底层引擎 fastgpt。(该站尚在复核中,未确认 /v1 接口真实性,请注意甄别。)
海外/全球接入,覆盖 Claude 等模型,近 30 天可用率 96.7%,首页响应约 591ms,底层引擎 portkey。(该站尚在复核中,未确认 /v1 接口真实性,请注意甄别。)
自建部署接入,覆盖 Claude 等模型,近 30 天可用率 96.7%,首页响应约 673ms,底层引擎 dify。(该站尚在复核中,未确认 /v1 接口真实性,请注意甄别。)
开源 LLM 应用开发平台,可自建部署并通过其模型供应商配置接入各类 API,本身也是许多中转站的底层编排层。
这一类不是「中转站」,而是可以自己搭一套中转服务的开源项目,代表有 One API、New API、LiteLLM 等。它们的共同点是:代码开放、可自行部署、数据完全由自己掌握。
什么情况下值得自建?判断标准比较清楚:一是数据敏感度确实高,不能容忍请求经过第三方;二是调用量大到足以摊平运维成本;三是团队里有人能承担部署与维护。三条里缺一条,用现成服务通常更划算。
自建的成本不只在服务器。还需要考虑:上游 Key 的来源(要自己对接各厂商开放平台)、高可用设计(单机部署挂了就全停)、以及持续维护(上游接口变化需要跟着改)。把这些算进去之后,「自建更便宜」往往并不成立 —— 它换来的是可控性,不是省钱。
一个务实的折中方案是自建网关 + 官方上游:用 One API 这类工具做统一鉴权、限额与日志,上游直连各厂商官方平台。这样既保住了数据与账务的自主,也不用自己处理转发链路。
下面几条是按当前实测数据实时算出来的,不是写死的结论 —— 数据一变,推荐就会跟着变。每一条都标了依据,你可以点进详情页自己核对。
每类取综合评分靠前的 10 家做对照。其中 0 家已确认存在 /v1/models 接口 —— 这个数字是实测探到的,不是站点自述。
| 中转站 | 地区 | 可用率 | 延迟 | 模型数 | 支付 | 接口 |
|---|---|---|---|---|---|---|
|
SambaNova
sambanova.ai
|
海外/全球 | 100% | 608 ms | 6 | — | 未确认 |
|
GitHub (helicone/helicone)
github.com
|
海外/全球 | 70.49% | 1077 ms | — | 信用卡 | 未确认 |
|
GitHub (1Panel-dev/MaxKB)
github.com
|
海外/全球 | 70.49% | 1100 ms | — | — | 未确认 |
|
GitHub (VoltAgent/voltagent)
github.com
|
海外/全球 | 70.49% | 1463 ms | — | — | 未确认 |
|
GitHub (berriai/litellm)
github.com
|
海外/全球 | 70.49% | 1107 ms | — | — | 未确认 |
|
GitHub (Portkey-Ai/gateway)
github.com
|
海外/全球 | 72.13% | 1084 ms | — | — | 未确认 |
|
GitHub (labring/FastGPT)
github.com
|
海外/全球 | 75.41% | 1032 ms | — | — | 未确认 |
|
GitHub (langgenius/dify)
github.com
|
自建部署 | 72.13% | 1136 ms | — | — | 未确认 |
|
The Fastest Enterprise AI Gateway
langdb.ai
|
海外/全球 | 100% | 994 ms | — | — | 未确认 |
|
dify.ai
dify.ai
|
海外/全球 | 100% | 931 ms | — | 信用卡 | 未确认 |
这一类目下被问得最多的几个问题。答案里的判断标准适用于整个类别,不针对某一家站点。
多数情况下不便宜,除非调用量很大。自建省下的是「倍率加价」,但要额外付出服务器费用、部署与维护的人力、以及高可用设计的成本。如果月调用量不大,现成服务的加价通常低于自建的隐性成本。
New API 是在 One API 基础上继续维护的分支,功能上更活跃、对较新的协议支持更及时。选择时主要看维护活跃度与你需要的上游适配范围,两者都支持多上游统一接入的核心能力。
需要你自己在模型厂商的开放平台注册并获取。这意味着要处理各家不同的实名要求、支付方式与配额限制 —— 这部分工作量常被低估。如果只是为了避免加价,先算清这部分成本再决定。
能。这正是自建最实际的价值:链路里没有第三方,你请求什么模型就真的打到那个模型。代价是要自己承担上游的稳定性问题,官方平台限流时你没有替代通道。
如果没有人能持续维护,不建议。自建要求能跟进上游接口变化、处理证书与域名、做备份与监控。折中做法是先用现成服务,等调用量与数据敏感度都到一个门槛之后再评估。
分类页看的是「有哪些站」,下面这几页看的是「谁更稳、谁更快、谁更便宜」—— 两者配合看,比单看任何一边都更有判断力。