先说结论:截至 2026 年 10 月,Meta 自家托管的 Llama API 公共预览已于 2026 年 7 月 6 日下线。今天讨论“Llama 免费额度”,实际只有两条主路:第三方托管平台的免费层或试用金,以及下载开放权重自行部署。前者上手快,但速率、数据和稳定性都有天花板;后者许可证不按 Token 收费,但硬件、电力和运维要自己承担。
说明:Llama 与 Meta Llama 是 Meta Platforms, Inc. 的商标。本文仅作技术说明,不代表与 Meta 存在隶属、代理、赞助或背书关系。模型许可、可用型号与额度政策可能调整,请以 Meta 及各供应商官方页面为准。
一、三种“免费”不是一回事
| 路径 | 费用形态 | 主要限制 | 适合场景 |
|---|---|---|---|
| 第三方托管免费层 | 每日或每月限量、限速,超出后停用或转付费 | 模型范围、并发、上下文、数据条款、无 SLA | 原型、低并发内部工具、评测 |
| 云平台试用金 | 新用户赠金或限时额度,需按云平台规则使用 | 期限、区域、可用型号、结算方式 | 短期 POC、云上集成验证 |
| 自托管开放权重 | 许可证不按 Token 收费,成本转为硬件与人力 | GPU 内存、电力、运维、许可证义务 | 数据敏感、稳定用量、离线或边缘 |
| 国内 AI 网关试用 | 平台试用金或小额充值 | 型号、额度与速率以平台页面为准 | 需要人民币账单、统一多模型入口的团队 |
四条路径都可能被叫作“免费”,但合同、数据边界和停服风险完全不同。先确认你要的是短期验证还是长期承载,再谈价格。
二、Meta 自家 Llama API 已经下线
2026 年 7 月 6 日,Meta 关闭了 Llama API 公共预览版,原有请求会收到停用提示并跳转。Meta 的建议是迁移到支持 Llama 的第三方提供商;其开发者平台随后把重点转向 Muse 系列模型。Muse 与 Llama 不是同一个模型家族,采购和迁移时不要混写。
旧教程里的 Meta Llama API 端点、预览 Key 和免费额度已不适用。Llama 权重仍可从 Meta 的下载页或 Hugging Face 的 meta-llama 仓库获取,下载前需接受对应版本的社区许可证。因此 2026 年再搜“Llama 免费 API”,结果大多是第三方平台。
三、免费托管:方便,但限制集中在五处
- 速率与并发:每分钟请求数、Token 数和并发上限都会限制,超限通常返回 429;高峰期免费档的优先级一般低于付费档。
- 模型范围:免费层可能只开放小模型、量化版或旧快照;2026 年已有推理商下线部分 Llama 型号,免费列表变化很快。
- 上下文与功能:长上下文、多模态、工具调用、结构化输出可能被裁剪,选型时要逐项验证。
- 数据条款:免费层的数据留存和训练条款常与付费层不同,可能允许用于服务改进;客户数据、合同和代码不要直接送进去。
- 服务保障:通常没有 SLA、赔付和稳定的故障通知,维护、限流和模型下架都可能提前通知不足。
免费层适合验证需求,不适合承载生产。任何声称“永久免费、无限调用”的页面,都应先假设它随时会变。
四、自托管:许可证免费,资源不免费
Llama 社区许可证允许商业使用,不按 Token 收费,但不等于零成本。权重越大,显存、带宽和运维投入越高。下面是大致的硬件量级,实际以量化方式、推理框架、上下文长度和并发实测为准:
- 1B–8B 级:4-bit 量化权重约 1–6GB,加上 KV Cache 和框架开销,8–16GB 显存可起步,适合单卡、笔记本或边缘设备。
- 70B 级:4-bit 权重约 35–45GB,长上下文和高并发还要更多显存,通常需要 48GB 以上单卡或多卡。
- Llama 4 Scout:109B 总参数、17B 激活参数,4-bit 权重约 55–60GB;标称长上下文很吃 KV Cache,实际部署要按并发缩水。
- Llama 4 Maverick:400B 总参数、17B 激活参数,4-bit 权重约 200GB 量级,通常需要多卡服务器。
- Llama 3.1 405B:BF16 权重约 800GB 量级,属于多机多卡范畴,不适合小团队起步。
MoE 模型激活参数少,算力需求相对低,但权重仍要全部放进内存,不能把“17B 激活”理解成“17B 显存”。自托管的总成本还包括 GPU 采购或租用、电费、机架、网络、存储、冗余、监控、升级和安全补丁。利用率低时,自建往往比按量 API 更贵。
五、隐私与合规:自托管不等于自动合规
把模型跑在自有服务器上,数据边界更可控,但日志、监控、备份、远程运维和账号权限仍可能把数据带出去。租用云 GPU 自建也一样,数据还是进入了云厂商的基础设施。
托管免费层要重点看:是否用于服务改进、留存多久、是否经过子处理商、数据落在哪个区域、删除机制是什么。免费层的数据条款常与付费层不同,不要把测试数据、客户资料和代码直接送进去。中国团队还要评估个人信息出境路径。涉及个人信息、重要数据或行业监管数据时,先让法务和安全团队确认,再决定托管还是私有部署。许可证的 Acceptable Use Policy 和贸易合规条款也要一并审查。
六、质量怎么比:同一权重,不同结果
同样的 Llama 权重,在不同平台上的表现可能不同,原因包括量化精度、推理框架、采样参数、系统提示词、上下文长度、安全过滤和模型快照版本。免费托管可能只提供量化版或旧版本,页面写的是 Llama 4,实际返回的模型 ID 要以接口响应为准。
选型不要只看榜单。准备 20–50 条自己的真实任务,统一提示词和评分标准,比较正确率、p95 延迟、每任务 Token 消耗和人工返工率。Llama 4 Scout、Maverick 偏多模态和长上下文,Llama 3.3 70B 更适合文本密集型任务,按任务匹配,不要按参数大小崇拜。
七、怎么选:按工作负载而不是按价格
可以用下面这组问题快速分流:
- 数据能不能进入第三方?不能就先看私有部署。
- 流量是否稳定、是否值得养 GPU?低并发、波动大,优先托管。
- 是否需要长上下文、多模态或工具调用?先验证免费层是否开放这些能力。
- 是否能接受 429 和模型下架?不能就准备付费层或第二家供应商。
- 有没有运维能力?没有就不要自建。
一个常见组合是:开发和小流量评测用免费托管,生产用付费托管或国内网关,数据敏感模块单独私有部署,并保留一条备用通道。
八、从免费到付费的升级路径
出现下面这些信号,就该考虑付费:频繁 429、延迟抖动、上下文或功能被裁剪、数据条款过不了审、需要 SLA 和工单支持、需要稳定模型版本、需要人民币发票。
升级不一定是换供应商。可以在原平台转按量付费,也可以把流量迁到云平台托管、专业推理商或国内 AI 网关。中商起航 AI 网关提供 OpenAI 兼容接口,可作为多模型统一入口;模型与价格会随供应商和型号调整,以模型价格为准,需要账号可直接注册。
curl -sS "https://ai.zhongshangqihang.com/v1/chat/completions" \
-H "Authorization: Bearer 你的密钥" \
-H "Content-Type: application/json" \
-d '{
"model": "llama-3.3-70b-instruct",
"messages": [{"role": "user", "content": "用三句话说明免费 Llama API 的主要限制"}],
"max_tokens": 256
}' | python3 -m json.tool
模型 ID 以平台模型列表为准;自建时把地址换成 vLLM、SGLang 或 llama.cpp 暴露的 OpenAI 兼容端点。生产代码要区分 401、429 和 5xx:401 查 Key,429 退避重试,5xx 触发备用通道。
九、常见问题
Llama 有永久免费的 API 吗?
截至 2026 年 10 月,没有可以当作长期承诺的 Meta 官方 Llama 免费 API。第三方平台可能提供免费层或试用金,但额度、速率和持续时间由各平台决定,随时可能调整。
Meta 还提供 Llama API 吗?
Meta 的 Llama API 公共预览已于 2026 年 7 月 6 日下线,官方建议迁移到支持 Llama 的第三方提供商。Meta 开发者平台当前主推 Muse 系列,Muse 与 Llama 不是同一家族。是否有新的 Llama 托管计划,以 Meta 官方页面为准。
自托管 Llama 真的免费吗?
许可证不按 Token 收费,但硬件、电力、机房、运维和冗余都要花钱。用量很小或波动很大时,自托管通常不划算;数据不能出境、需要离线或长期稳定高利用率时,才更有优势。
免费托管的 Llama 和付费版是同一个模型吗?
不一定。免费层可能只开放较小的型号、量化版或旧快照,上下文和功能也可能被裁剪。以接口返回的模型 ID、版本号和官方模型卡为准,不要只看宣传名称。
小团队应该从哪条路开始?
先用免费托管层做 1–2 周小流量验证,同时用 8B 级模型在单卡或笔记本上跑一份本地基线,比较质量和延迟。确认有用量、数据和预算后再选付费托管或自建,并保留备用通道。
相关阅读:API 中转站使用指南、多模型 API 平台怎么选。
