Llama API 中转站 共 16 家

Llama 系列是开源权重模型里生态最完整的一支，在中转站上的存在感主要来自「开源模型聚合」这个需求 ——想把 Llama、Mistral、Qwen 这类开源模型和闭源旗舰放在同一套接口下调用。

选 Llama 中转站时，最值得确认的是「模型版本与量化档位」。开源模型的同一代会有多个参数规模（8B / 70B / 405B 等）和不同量化精度，它们的成本与效果差别很大，而部分站点在清单里只写「Llama」不写具体规格。用 /v1/models 拿到真实 id 是必要的核对步骤。

另一个实际考量是：如果只是要用开源模型，自己部署往往是更划算的选择。开源权的价值就在于可以自持 —— 当调用量足够大时，租用推理服务的成本会超过自建。中转站适合的是「用量小、想快速验证」的阶段。

本站的「开源与自建」分类里收录了 One API、New API、LiteLLM 等自建方案，可以和这里的中转站对照着看哪个更适合你的阶段。

• 要最稳的：按当前可用率取最高。样本数不足时展示的是公开数据集基线，详情页会标注数据来源。
• 要响应最快的：按最近一次探测的首页响应时间。单次测量波动较大，更适合当参考区间而不是绝对值。
• 要模型覆盖最广的：这里用的是接口实测探到的模型数量，不是站点宣传的支持列表 —— 两者口径不同，宣传值通常更乐观。

用 Llama 应该走中转站还是自己部署？

看用量阶段。用量小、想快速验证效果 —— 走中转站，门槛最低；用量大且稳定 —— 自建更划算，因为开源模型的自持成本是固定的，而按量计费会随用量线性增长。本站的「开源与自建」分类里有自建工具的对比。

怎么确认站点给的是哪个规格的 Llama？

请求 /v1/models 看返回的模型 id —— 通常带有参数规模标识（如 70b、8b）。如果清单里只写「Llama」没有规格，建议直接问客服，因为不同规格的成本与效果差别很大。

开源模型在中转站上会被降级吗？

开源模型的「降级」通常表现为换成更小的参数规模或更低的量化精度，效果会明显下降。判断方式：用同一个高难度任务在不同站对比输出质量，或核对 /v1/models 返回的具体规格。

Llama 和其他开源模型该怎么选？

按任务类型。Llama 生态与工具链最成熟、文档最多；Mistral 在部分推理任务上效率更高；Qwen 在中文任务上通常更好。如果实在不确定，先各跑一批真实任务对比准确率，不要只看基准分。