Llama 是开放权重模型,它的价格无法用一张官方价目表回答。2026 年 7 月 6 日,Meta 下线了 Llama API 公共预览版,原接口会返回终止提示;Llama 模型权重不受影响,仍可从 Meta 的下载页和 Hugging Face 获取。Meta 在公告中建议开发者迁移到支持 Llama 的第三方服务商。

所以今天再问“Llama API 价格”,实际要问的是:你走哪条接入路线。第三方托管按 Token 计费,云厂商按合同与用量计费,自托管按 GPU 小时计费,聚合网关按折算后的余额扣减。四条路线账单结构不同,直接比“每百万 Token 多少钱”容易得出错误结论。本文只讲成本结构和方法,具体价格以各平台页面和站内模型价格为准。

说明:Llama 是 Meta Platforms, Inc. 的商标。本文仅作技术介绍,与 Meta 无隶属、代理或合作关系。模型版本、许可证与各平台价格会调整,采购前请核对原始页面。

一、Meta 的 Llama API 下线后,还有哪些接入路线

第一条是第三方托管 API。AWS Bedrock、Azure AI Foundry、Google Cloud Vertex AI 等云平台提供 Llama 模型;Together AI、Fireworks、DeepInfra、Novita、Parasail 等专业推理平台也提供按 Token 计费的服务。不同平台支持的型号、上下文长度、量化和区域并不一致。

第二条是自托管。把权重下载到自己的 GPU 或租用的 GPU 上,用 vLLM、SGLang、TGI 等推理框架提供服务;小规模验证也可以用 llama.cpp 或 Ollama。这条路线买的是算力和运维能力,不是 API 额度。

第三条是 OpenAI 兼容的聚合网关。中商起航 AI 网关这类平台把多家模型统一到一个接口和一个余额账户,适合需要人民币结算、统一用量视图的国内团队。

路线没有优劣,只有匹配;选之前确认型号生命周期、调用量稳定性和团队运维能力。

二、四条路线的账单分别由什么构成

路线 计费单位 典型账单构成 适合场景 容易忽略的成本
第三方托管 API 输入、输出 Token 分开计价 Token 用量、缓存、批处理 快速上线、无 GPU 团队 上下文膨胀、重试、排队
云厂商 按量 Token 或预置吞吐 用量费、承诺消费、支持计划、网络与存储 已有云合同、合规采购流程 最低消费、跨区流量、型号下线
自托管 GPU 小时或包月 GPU 租金、存储、网络、运维人力 稳定高利用率、数据边界要求 空闲浪费、扩容、故障处理
聚合网关 折算后的 Token 消耗 预付余额、汇率与服务费 人民币结算、多模型统一管理 余额管理、供应商依赖

关键不是价格高低,而是计费单位不同。按 Token 的账单随用量变化,按 GPU 小时的账单随时间流逝,预置吞吐在不用时也照常计费。把不同计费单位放在一起比单价,结论通常不可靠。

三、按 Token 计费:贵不在单价,在用量结构

Token 账单由输入和输出两部分组成。系统提示、历史对话、工具定义、检索到的文档都算输入;模型生成的内容算输出。输出单价通常高于输入,长回答、长思维链和高 max_tokens 会推高成本。

上下文最容易被低估。多轮对话每轮重发完整历史,输入 Token 会随轮数累积;整份文档塞进上下文,单次请求可能消耗数万 Token。缓存能缓解重复前缀的成本,但前提是前缀稳定、命中率可观测,不能假设“开了缓存就省钱”。

重试同样要计入预算。429 限流、超时、5xx 错误后的重发,只要请求已被上游处理,就可能产生费用,不能把“失败免费”当成默认规则。Agent 类应用还要注意循环调用:一次任务可能产生几十次模型请求,账单按请求累加。

批处理适合离线任务,价格通常低于在线调用,但延迟以小时计;流式输出改善体验,不改变 Token 总量。做预算时先把请求分为在线、离线、可缓存三类,分别估算。

四、云厂商与专业平台:差在合同,不只在单价

云厂商账单不止 Token 费用,还可能有预置吞吐、承诺消费、支持计划、跨区网络和日志存储。预置吞吐适合负载稳定的团队:容量锁定后,闲时也不退费;流量波动大时,按量更灵活。

专业推理平台的计费更直接,但同名模型未必是同一件商品。量化精度、上下文窗口、并发上限、版本、是否专用实例,都会影响价格与效果。签约前至少确认四点:模型版本号、上下文上限、限流规则、故障与退款条款。

比价时用自己的请求做小流量测试,记录延迟、错误率、输出质量和实际扣费;只看价格页上的数字,容易忽略排队和重试成本。

五、自托管:算的是 GPU 利用率,不是 Token 单价

自托管的核心不是 Token 单价,而是“一台机器一小时能产出多少有效 Token”:

每小时总成本 = 单卡小时价 × 卡数 + 存储/网络 + 运维人力分摊
每小时实际处理 Token 数 = 峰值吞吐 × 平均利用率
每百万 Token 成本 = 每小时总成本 ÷ 每小时实际处理 Token 数 × 1,000,000

利用率是关键。同一台 GPU 跑在 20% 和 80% 利用率下,等效 Token 成本可能差四倍。低流量或强波峰业务,GPU 大量时间空转,托管 API 往往更划算;稳定高并发、能吃饱批处理的业务,自托管才有优势。

还要把运维算进去:模型升级、量化调优、监控告警、故障切换、安全补丁、值班人力。Llama 4 Scout 量级的模型可以用单卡 INT4 部署,Maverick 量级通常需要多卡,具体取决于量化方案、上下文长度和推理框架。许可证方面,Llama 社区许可证一般允许商用,但有可接受使用政策、月活门槛和署名要求,落地前应读原文。

六、把预算做准的六个步骤

  1. 导出最近四周日志:请求数、输入/输出 Token、P95 上下文、重试率、峰值并发。
  2. 选三条候选路线,按当前价格计算月成本的低、中、高三档,不要只算一个点。
  3. 对缓存命中率、批处理比例、重试率做敏感性分析,看哪项影响最大。
  4. 自托管按 30%、60%、85% 三档利用率各算一次,并加入人力、备份和扩容成本。
  5. 选一条路线做两周灰度,记录真实账单、延迟、错误率和输出质量,再决定是否放量。
  6. 每季度复核型号生命周期、价格与合同,避免被下线型号锁死。

七、成本控制的优先顺序

先消除无效用量,再谈单价:裁剪系统提示和历史消息、对长文档先摘要或检索、限制 max_tokens、用结构化输出减少来回澄清、为 429 和超时设置指数退避、按项目拆分 Key 并设置预算告警。

第二步是按任务分层选模型。分类、抽取、改写用较小或较快的型号,复杂推理再上更大的型号;不要全站都用最贵的档位。第三步才是缓存、批处理和合同谈判。顺序反了,往往是在为无效请求争取折扣。

同时调用多家模型时,聚合网关可统一余额和用量视图,减少对账。可以先注册中商起航 AI 网关,小额跑通一条请求,再按项目拆分 Key。具体价格以模型价格为准,价格会随上游调整。

八、常见问题

Llama API 还能直接向 Meta 付费调用吗?

Meta 的 Llama API 公共预览已于 2026 年 7 月 6 日下线,原接口不再提供推理服务。模型权重仍可下载,调用需要走第三方托管、云厂商、自托管或聚合网关。

同一个 Llama 模型,为什么各家价格差很多?

可能是版本、量化精度、上下文窗口、限流策略不同,或专用实例与共享推理的差别。比价要用同一版本、同一上下文长度和同一并发条件。

自托管一定比按 Token 便宜吗?

不一定。只有稳定高利用率才能摊薄 GPU 和人力成本;低流量或强波峰业务,空闲 GPU 会把等效单价推得很高。

上下文翻倍,账单会翻倍吗?

不一定。输入 Token 随上下文近似线性增长,延迟和限流风险也会上升;实际幅度还取决于输出占比、缓存和重试。

失败重试会重复计费吗?

取决于请求是否已被上游处理。限流、超时和 5xx 后的重试都可能产生费用,建议做退避、幂等和重试次数上限,并用请求 ID 对账。

下一步

Llama 的价格取决于接入路线和用量结构。先用自己的日志算清输入、输出、上下文和重试,再比较托管、云厂商、自托管与网关的账单。需要统一余额、人民币结算和多模型管理,可以从注册开始;具体价格与计费规则见模型价格。

相关阅读: