Llama 是开放权重模型,它的价格无法用一张官方价目表回答。2026 年 7 月 6 日,Meta 下线了 Llama API 公共预览版,原接口会返回终止提示;Llama 模型权重不受影响,仍可从 Meta 的下载页和 Hugging Face 获取。Meta 在公告中建议开发者迁移到支持 Llama 的第三方服务商。
所以今天再问“Llama API 价格”,实际要问的是:你走哪条接入路线。第三方托管按 Token 计费,云厂商按合同与用量计费,自托管按 GPU 小时计费,聚合网关按折算后的余额扣减。四条路线账单结构不同,直接比“每百万 Token 多少钱”容易得出错误结论。本文只讲成本结构和方法,具体价格以各平台页面和站内模型价格为准。
说明:Llama 是 Meta Platforms, Inc. 的商标。本文仅作技术介绍,与 Meta 无隶属、代理或合作关系。模型版本、许可证与各平台价格会调整,采购前请核对原始页面。
一、Meta 的 Llama API 下线后,还有哪些接入路线
第一条是第三方托管 API。AWS Bedrock、Azure AI Foundry、Google Cloud Vertex AI 等云平台提供 Llama 模型;Together AI、Fireworks、DeepInfra、Novita、Parasail 等专业推理平台也提供按 Token 计费的服务。不同平台支持的型号、上下文长度、量化和区域并不一致。
第二条是自托管。把权重下载到自己的 GPU 或租用的 GPU 上,用 vLLM、SGLang、TGI 等推理框架提供服务;小规模验证也可以用 llama.cpp 或 Ollama。这条路线买的是算力和运维能力,不是 API 额度。
第三条是 OpenAI 兼容的聚合网关。中商起航 AI 网关这类平台把多家模型统一到一个接口和一个余额账户,适合需要人民币结算、统一用量视图的国内团队。
路线没有优劣,只有匹配;选之前确认型号生命周期、调用量稳定性和团队运维能力。
二、四条路线的账单分别由什么构成
| 路线 | 计费单位 | 典型账单构成 | 适合场景 | 容易忽略的成本 |
|---|---|---|---|---|
| 第三方托管 API | 输入、输出 Token 分开计价 | Token 用量、缓存、批处理 | 快速上线、无 GPU 团队 | 上下文膨胀、重试、排队 |
| 云厂商 | 按量 Token 或预置吞吐 | 用量费、承诺消费、支持计划、网络与存储 | 已有云合同、合规采购流程 | 最低消费、跨区流量、型号下线 |
| 自托管 | GPU 小时或包月 | GPU 租金、存储、网络、运维人力 | 稳定高利用率、数据边界要求 | 空闲浪费、扩容、故障处理 |
| 聚合网关 | 折算后的 Token 消耗 | 预付余额、汇率与服务费 | 人民币结算、多模型统一管理 | 余额管理、供应商依赖 |
关键不是价格高低,而是计费单位不同。按 Token 的账单随用量变化,按 GPU 小时的账单随时间流逝,预置吞吐在不用时也照常计费。把不同计费单位放在一起比单价,结论通常不可靠。
三、按 Token 计费:贵不在单价,在用量结构
Token 账单由输入和输出两部分组成。系统提示、历史对话、工具定义、检索到的文档都算输入;模型生成的内容算输出。输出单价通常高于输入,长回答、长思维链和高 max_tokens 会推高成本。
上下文最容易被低估。多轮对话每轮重发完整历史,输入 Token 会随轮数累积;整份文档塞进上下文,单次请求可能消耗数万 Token。缓存能缓解重复前缀的成本,但前提是前缀稳定、命中率可观测,不能假设“开了缓存就省钱”。
重试同样要计入预算。429 限流、超时、5xx 错误后的重发,只要请求已被上游处理,就可能产生费用,不能把“失败免费”当成默认规则。Agent 类应用还要注意循环调用:一次任务可能产生几十次模型请求,账单按请求累加。
批处理适合离线任务,价格通常低于在线调用,但延迟以小时计;流式输出改善体验,不改变 Token 总量。做预算时先把请求分为在线、离线、可缓存三类,分别估算。
四、云厂商与专业平台:差在合同,不只在单价
云厂商账单不止 Token 费用,还可能有预置吞吐、承诺消费、支持计划、跨区网络和日志存储。预置吞吐适合负载稳定的团队:容量锁定后,闲时也不退费;流量波动大时,按量更灵活。
专业推理平台的计费更直接,但同名模型未必是同一件商品。量化精度、上下文窗口、并发上限、版本、是否专用实例,都会影响价格与效果。签约前至少确认四点:模型版本号、上下文上限、限流规则、故障与退款条款。
比价时用自己的请求做小流量测试,记录延迟、错误率、输出质量和实际扣费;只看价格页上的数字,容易忽略排队和重试成本。
五、自托管:算的是 GPU 利用率,不是 Token 单价
自托管的核心不是 Token 单价,而是“一台机器一小时能产出多少有效 Token”:
每小时总成本 = 单卡小时价 × 卡数 + 存储/网络 + 运维人力分摊
每小时实际处理 Token 数 = 峰值吞吐 × 平均利用率
每百万 Token 成本 = 每小时总成本 ÷ 每小时实际处理 Token 数 × 1,000,000
利用率是关键。同一台 GPU 跑在 20% 和 80% 利用率下,等效 Token 成本可能差四倍。低流量或强波峰业务,GPU 大量时间空转,托管 API 往往更划算;稳定高并发、能吃饱批处理的业务,自托管才有优势。
还要把运维算进去:模型升级、量化调优、监控告警、故障切换、安全补丁、值班人力。Llama 4 Scout 量级的模型可以用单卡 INT4 部署,Maverick 量级通常需要多卡,具体取决于量化方案、上下文长度和推理框架。许可证方面,Llama 社区许可证一般允许商用,但有可接受使用政策、月活门槛和署名要求,落地前应读原文。
六、把预算做准的六个步骤
- 导出最近四周日志:请求数、输入/输出 Token、P95 上下文、重试率、峰值并发。
- 选三条候选路线,按当前价格计算月成本的低、中、高三档,不要只算一个点。
- 对缓存命中率、批处理比例、重试率做敏感性分析,看哪项影响最大。
- 自托管按 30%、60%、85% 三档利用率各算一次,并加入人力、备份和扩容成本。
- 选一条路线做两周灰度,记录真实账单、延迟、错误率和输出质量,再决定是否放量。
- 每季度复核型号生命周期、价格与合同,避免被下线型号锁死。
七、成本控制的优先顺序
先消除无效用量,再谈单价:裁剪系统提示和历史消息、对长文档先摘要或检索、限制 max_tokens、用结构化输出减少来回澄清、为 429 和超时设置指数退避、按项目拆分 Key 并设置预算告警。
第二步是按任务分层选模型。分类、抽取、改写用较小或较快的型号,复杂推理再上更大的型号;不要全站都用最贵的档位。第三步才是缓存、批处理和合同谈判。顺序反了,往往是在为无效请求争取折扣。
同时调用多家模型时,聚合网关可统一余额和用量视图,减少对账。可以先注册中商起航 AI 网关,小额跑通一条请求,再按项目拆分 Key。具体价格以模型价格为准,价格会随上游调整。
八、常见问题
Llama API 还能直接向 Meta 付费调用吗?
Meta 的 Llama API 公共预览已于 2026 年 7 月 6 日下线,原接口不再提供推理服务。模型权重仍可下载,调用需要走第三方托管、云厂商、自托管或聚合网关。
同一个 Llama 模型,为什么各家价格差很多?
可能是版本、量化精度、上下文窗口、限流策略不同,或专用实例与共享推理的差别。比价要用同一版本、同一上下文长度和同一并发条件。
自托管一定比按 Token 便宜吗?
不一定。只有稳定高利用率才能摊薄 GPU 和人力成本;低流量或强波峰业务,空闲 GPU 会把等效单价推得很高。
上下文翻倍,账单会翻倍吗?
不一定。输入 Token 随上下文近似线性增长,延迟和限流风险也会上升;实际幅度还取决于输出占比、缓存和重试。
失败重试会重复计费吗?
取决于请求是否已被上游处理。限流、超时和 5xx 后的重试都可能产生费用,建议做退避、幂等和重试次数上限,并用请求 ID 对账。
下一步
Llama 的价格取决于接入路线和用量结构。先用自己的日志算清输入、输出、上下文和重试,再比较托管、云厂商、自托管与网关的账单。需要统一余额、人民币结算和多模型管理,可以从注册开始;具体价格与计费规则见模型价格。
相关阅读:
