先说结论:截至 2026 年 10 月,Meta 自家托管的 Llama API 公共预览已于 2026 年 7 月 6 日下线。今天讨论“Llama 免费额度”,实际只有两条主路:第三方托管平台的免费层或试用金,以及下载开放权重自行部署。前者上手快,但速率、数据和稳定性都有天花板;后者许可证不按 Token 收费,但硬件、电力和运维要自己承担。

说明:Llama 与 Meta Llama 是 Meta Platforms, Inc. 的商标。本文仅作技术说明,不代表与 Meta 存在隶属、代理、赞助或背书关系。模型许可、可用型号与额度政策可能调整,请以 Meta 及各供应商官方页面为准。

一、三种“免费”不是一回事

路径 费用形态 主要限制 适合场景
第三方托管免费层 每日或每月限量、限速,超出后停用或转付费 模型范围、并发、上下文、数据条款、无 SLA 原型、低并发内部工具、评测
云平台试用金 新用户赠金或限时额度,需按云平台规则使用 期限、区域、可用型号、结算方式 短期 POC、云上集成验证
自托管开放权重 许可证不按 Token 收费,成本转为硬件与人力 GPU 内存、电力、运维、许可证义务 数据敏感、稳定用量、离线或边缘
国内 AI 网关试用 平台试用金或小额充值 型号、额度与速率以平台页面为准 需要人民币账单、统一多模型入口的团队

四条路径都可能被叫作“免费”,但合同、数据边界和停服风险完全不同。先确认你要的是短期验证还是长期承载,再谈价格。

二、Meta 自家 Llama API 已经下线

2026 年 7 月 6 日,Meta 关闭了 Llama API 公共预览版,原有请求会收到停用提示并跳转。Meta 的建议是迁移到支持 Llama 的第三方提供商;其开发者平台随后把重点转向 Muse 系列模型。Muse 与 Llama 不是同一个模型家族,采购和迁移时不要混写。

旧教程里的 Meta Llama API 端点、预览 Key 和免费额度已不适用。Llama 权重仍可从 Meta 的下载页或 Hugging Face 的 meta-llama 仓库获取,下载前需接受对应版本的社区许可证。因此 2026 年再搜“Llama 免费 API”,结果大多是第三方平台。

三、免费托管:方便,但限制集中在五处

  1. 速率与并发:每分钟请求数、Token 数和并发上限都会限制,超限通常返回 429;高峰期免费档的优先级一般低于付费档。
  2. 模型范围:免费层可能只开放小模型、量化版或旧快照;2026 年已有推理商下线部分 Llama 型号,免费列表变化很快。
  3. 上下文与功能:长上下文、多模态、工具调用、结构化输出可能被裁剪,选型时要逐项验证。
  4. 数据条款:免费层的数据留存和训练条款常与付费层不同,可能允许用于服务改进;客户数据、合同和代码不要直接送进去。
  5. 服务保障:通常没有 SLA、赔付和稳定的故障通知,维护、限流和模型下架都可能提前通知不足。

免费层适合验证需求,不适合承载生产。任何声称“永久免费、无限调用”的页面,都应先假设它随时会变。

四、自托管:许可证免费,资源不免费

Llama 社区许可证允许商业使用,不按 Token 收费,但不等于零成本。权重越大,显存、带宽和运维投入越高。下面是大致的硬件量级,实际以量化方式、推理框架、上下文长度和并发实测为准:

  • 1B–8B 级:4-bit 量化权重约 1–6GB,加上 KV Cache 和框架开销,8–16GB 显存可起步,适合单卡、笔记本或边缘设备。
  • 70B 级:4-bit 权重约 35–45GB,长上下文和高并发还要更多显存,通常需要 48GB 以上单卡或多卡。
  • Llama 4 Scout:109B 总参数、17B 激活参数,4-bit 权重约 55–60GB;标称长上下文很吃 KV Cache,实际部署要按并发缩水。
  • Llama 4 Maverick:400B 总参数、17B 激活参数,4-bit 权重约 200GB 量级,通常需要多卡服务器。
  • Llama 3.1 405B:BF16 权重约 800GB 量级,属于多机多卡范畴,不适合小团队起步。

MoE 模型激活参数少,算力需求相对低,但权重仍要全部放进内存,不能把“17B 激活”理解成“17B 显存”。自托管的总成本还包括 GPU 采购或租用、电费、机架、网络、存储、冗余、监控、升级和安全补丁。利用率低时,自建往往比按量 API 更贵。

五、隐私与合规:自托管不等于自动合规

把模型跑在自有服务器上,数据边界更可控,但日志、监控、备份、远程运维和账号权限仍可能把数据带出去。租用云 GPU 自建也一样,数据还是进入了云厂商的基础设施。

托管免费层要重点看:是否用于服务改进、留存多久、是否经过子处理商、数据落在哪个区域、删除机制是什么。免费层的数据条款常与付费层不同,不要把测试数据、客户资料和代码直接送进去。中国团队还要评估个人信息出境路径。涉及个人信息、重要数据或行业监管数据时,先让法务和安全团队确认,再决定托管还是私有部署。许可证的 Acceptable Use Policy 和贸易合规条款也要一并审查。

六、质量怎么比:同一权重,不同结果

同样的 Llama 权重,在不同平台上的表现可能不同,原因包括量化精度、推理框架、采样参数、系统提示词、上下文长度、安全过滤和模型快照版本。免费托管可能只提供量化版或旧版本,页面写的是 Llama 4,实际返回的模型 ID 要以接口响应为准。

选型不要只看榜单。准备 20–50 条自己的真实任务,统一提示词和评分标准,比较正确率、p95 延迟、每任务 Token 消耗和人工返工率。Llama 4 Scout、Maverick 偏多模态和长上下文,Llama 3.3 70B 更适合文本密集型任务,按任务匹配,不要按参数大小崇拜。

七、怎么选:按工作负载而不是按价格

可以用下面这组问题快速分流:

  1. 数据能不能进入第三方?不能就先看私有部署。
  2. 流量是否稳定、是否值得养 GPU?低并发、波动大,优先托管。
  3. 是否需要长上下文、多模态或工具调用?先验证免费层是否开放这些能力。
  4. 是否能接受 429 和模型下架?不能就准备付费层或第二家供应商。
  5. 有没有运维能力?没有就不要自建。

一个常见组合是:开发和小流量评测用免费托管,生产用付费托管或国内网关,数据敏感模块单独私有部署,并保留一条备用通道。

八、从免费到付费的升级路径

出现下面这些信号,就该考虑付费:频繁 429、延迟抖动、上下文或功能被裁剪、数据条款过不了审、需要 SLA 和工单支持、需要稳定模型版本、需要人民币发票。

升级不一定是换供应商。可以在原平台转按量付费,也可以把流量迁到云平台托管、专业推理商或国内 AI 网关。中商起航 AI 网关提供 OpenAI 兼容接口,可作为多模型统一入口;模型与价格会随供应商和型号调整,以模型价格为准,需要账号可直接注册。

curl -sS "https://ai.zhongshangqihang.com/v1/chat/completions" \
  -H "Authorization: Bearer 你的密钥" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "llama-3.3-70b-instruct",
    "messages": [{"role": "user", "content": "用三句话说明免费 Llama API 的主要限制"}],
    "max_tokens": 256
  }' | python3 -m json.tool

模型 ID 以平台模型列表为准;自建时把地址换成 vLLM、SGLang 或 llama.cpp 暴露的 OpenAI 兼容端点。生产代码要区分 401、429 和 5xx:401 查 Key,429 退避重试,5xx 触发备用通道。

九、常见问题

Llama 有永久免费的 API 吗?

截至 2026 年 10 月,没有可以当作长期承诺的 Meta 官方 Llama 免费 API。第三方平台可能提供免费层或试用金,但额度、速率和持续时间由各平台决定,随时可能调整。

Meta 还提供 Llama API 吗?

Meta 的 Llama API 公共预览已于 2026 年 7 月 6 日下线,官方建议迁移到支持 Llama 的第三方提供商。Meta 开发者平台当前主推 Muse 系列,Muse 与 Llama 不是同一家族。是否有新的 Llama 托管计划,以 Meta 官方页面为准。

自托管 Llama 真的免费吗?

许可证不按 Token 收费,但硬件、电力、机房、运维和冗余都要花钱。用量很小或波动很大时,自托管通常不划算;数据不能出境、需要离线或长期稳定高利用率时,才更有优势。

免费托管的 Llama 和付费版是同一个模型吗?

不一定。免费层可能只开放较小的型号、量化版或旧快照,上下文和功能也可能被裁剪。以接口返回的模型 ID、版本号和官方模型卡为准,不要只看宣传名称。

小团队应该从哪条路开始?

先用免费托管层做 1–2 周小流量验证,同时用 8B 级模型在单卡或笔记本上跑一份本地基线,比较质量和延迟。确认有用量、数据和预算后再选付费托管或自建,并保留备用通道。

相关阅读:API 中转站使用指南、多模型 API 平台怎么选。