企业采购 Llama，表面是选模型，实际是选一条能签约、能审计、能降级、能算清成本的交付路径。2026 年的关键变化是：Meta 自家 Llama API 公共预览已于 7 月 6 日下线，托管路线转向云平台和第三方推理商；希望数据留在自己环境的企业，则回到开放权重自建或私有部署。

说明：Llama 与 Meta Llama 是 Meta Platforms, Inc. 的商标。本文仅作技术说明，不代表与 Meta 存在隶属、代理、赞助或背书关系。模型许可、可用型号与采购条款可能调整，请以 Meta 及各供应商官方页面和签署合同为准。

一、先定义采购对象

同一句“采购 Llama”，可能指三种不同的东西：

  • 开放权重：下载权重自行部署，许可证约束使用和分发。
  • 托管 API：向云平台或推理商购买推理服务，按 Token 或算力计费。
  • 私有化方案：供应商交付硬件、软件和运维，合同含许可、支持和 SLA。

采购文件要写清模型版本、部署位置、数据处理角色、服务范围和验收指标。只写“使用 Llama 模型”不够，后续容易出现版本、合规和费用争议。

二、四条访问路线

路线 合同与账单 数据边界 运维负担 适合场景
云平台托管 与云厂商签约，按云账单结算 数据进入所选云区域，受其 DPA、区域和子处理商条款约束 低 已在用该云、需要合规采购和区域选择
专业推理商 API 与各厂商签约，结算方式各异 数据进入厂商服务，规则按厂商条款 低 快速上线、流量波动、按量弹性
自建开放权重 硬件采购或云 GPU 租用，另加服务合同 可留在自有环境；租云 GPU 仍属第三方 高 数据敏感、稳定高用量、离线或边缘
国内 AI 网关 国内合同、人民币结算与发票 请求经网关转发，需审查网关数据条款 低 国内付款发票、统一多模型入口

Meta 自家 Llama API 已不在可选路线内。云平台方面，AWS Bedrock、Azure AI Foundry 和 Google Vertex AI 都提供部分 Llama 型号；型号、区域和开通方式变化很快，采购前逐项核对官方目录。

路线没有绝对优劣：云平台省运维但受区域和条款约束；推理商灵活但可能下线旧型号；自建控制力强但要养团队；网关解决付款和统一入口，但多一层数据边界。

三、许可证审查：开放权重不等于 MIT

Llama 使用社区许可证，不是 OSI 认可的开源许可证。以 Llama 4 和 Llama 3.3 为例，允许商业使用，但有几条硬约束：

  • 月活超过 7 亿的产品或服务，需按发布日前一个月的口径向 Meta 申请单独许可，未获批不能行使许可权利。
  • 分发模型、衍生品或包含模型的产品时，要在网站、界面或产品文档显著标注“Built with Llama”。
  • 用 Llama 材料训练或改进其他模型并分发时，模型名称要以“Llama”开头。
  • 分发副本要附许可证和 Notice 文件，并遵守 Acceptable Use Policy、适用法律和贸易合规要求。
  • 许可证不授予商标权，只允许为满足标注和命名要求使用 Llama 名称。

这些条款要由法务逐条确认，不能只看“可商用”。不同版本许可证可能不同，以模型仓库附带的 LICENSE 为准；许可证也不提供 SLA、赔偿或数据驻留承诺。

四、数据驻留与隐私

托管路线要书面确认：数据存放区域、是否跨境、子处理商、留存时长、是否用于训练、能否关闭保留、删除机制与证明、安全认证和审计报告。营销页的“企业级安全”不能替代 DPA 和合同条款。

自建也不是自动合规。日志、监控、备份、灾备、远程运维和账号权限都可能成为数据出口；租用云 GPU 自建时，数据仍在云厂商基础设施内。

中国团队还要评估《个人信息保护法》《数据安全法》和行业监管要求。涉及个人信息出境时，可能要做安全评估、订立标准合同或走其他路径，具体由法务判断。免费层和试用环境不要放真实客户数据。

五、硬件、容量与成本

自建容量规划不能只看参数量。显存要同时容纳权重、KV Cache、框架开销和并发余量；上下文越长、并发越高，KV Cache 增长越快。大致量级：

  • 8B 级：4-bit 权重约 4–6GB，单卡 16–24GB 可留出余量。
  • 70B 级：4-bit 权重约 35–45GB，通常需要 48–80GB 显存或多卡。
  • Llama 4 Scout：109B 总参数、17B 激活，4-bit 权重约 55–60GB，长上下文还要额外预留 KV Cache。
  • Llama 4 Maverick：400B 总参数、17B 激活，4-bit 权重约 200GB 量级，通常需要多卡服务器。
  • Llama 3.1 405B：BF16 权重约 800GB 量级，属于多机多卡，只适合大规模团队评估。

MoE 激活参数少，降低的是算力压力，不是显存占用。量化能省显存，但要验证代码、数学和多语言任务的质量损失。

总成本包括 GPU、电费、制冷、机架、网络、存储、冗余、监控、升级和人员。自建是否划算取决于利用率：长期跑满才容易摊薄，低负载或波动流量通常不如按量 API。价格以供应商报价和站内模型价格为准，价格会调整。

六、账号、权限与访问控制

  • 用企业域名注册，启用 SSO/SAML 和多因素认证。
  • 按环境、项目和团队拆分账号与密钥，最小权限，设置到期和轮换周期。
  • 密钥放密钥管理服务，不进前端、Git、日志和聊天记录。
  • 开启审计日志，记录调用模型、Token 消耗和敏感数据策略命中情况。
  • 配置网络出口白名单、DLP 和内容留存策略，明确提示词与输出是否落盘。
  • 要求供应商提供子处理商清单、事故通知渠道和安全联系人。

对外提供服务时，还要确认多租户隔离和客户数据边界，不要用同一个 Key 承载多个客户。

七、SLA、降级与退出

采购时要问清：可用性目标、p95 延迟、支持时段、故障响应与恢复时限、事故通知、未达标补偿、维护窗口、模型下线提前通知。把这些写进合同或订单，而不是只留在销售邮件里。

再好的 SLA 也不能替代降级设计。至少准备一条备用通道：第二家托管商、云平台同型号或自建小模型。用 OpenAI 兼容接口做抽象层，把模型名、地址和 Key 配置化，加入健康检查、超时、重试、熔断和限流。401 查凭证，403 查权限和区域，429 退避重试，5xx 触发切换。

降级要考虑数据驻留：备用区域如果跨境，可能违反主合同的驻留承诺。退出条款也要写清：数据如何导出、多久删除、是否提供迁移协助、模型和提示词资产归谁。没有退出方案，迁移成本就会变成锁定成本。

八、试点与上线验收

建议用 2–4 周做一次可复现的试点：

  1. 明确场景、成功指标、数据分级和绝不能进入第三方 API 的数据。
  2. 法务审查许可证、DPA、跨境传输、训练使用和删除条款，形成书面结论。
  3. 开通账号，完成企业认证、SSO、角色分配和密钥台账。
  4. 同时搭主路线和备用路线，做统一的 OpenAI 兼容抽象层。
  5. 用真实任务跑试点，记录成功率、p50/p95 延迟、错误率、每任务 Token 和返工率。
  6. 压测长上下文、并发峰值、429 和模型不可用场景。
  7. 演练额度耗尽、区域故障、模型下线和密钥泄露。
  8. 走通一笔真实付款和发票，核对主体、币种、税额和报销流程，归档材料。

验收标准要在试点前写好。质量、成本、合规和运维四项都过关，才进入生产。

九、成本监控与持续优化

上线后按月做四件事：按团队、项目和环境归集 Token 与费用；设置预算和告警；检查异常调用和 Key 泄露；复核模型与供应商价格变化。

优化顺序通常是：先删无效上下文和重复请求，再按任务难度分流到不同尺寸的模型，能缓存的缓存，能批处理的批处理，最后才考虑自建或长期承诺。自建还要盯 GPU 利用率、排队时间和空闲容量，别让昂贵的卡长期闲置。

中商起航 AI 网关提供 OpenAI 兼容接口，可作为统一入口和备用通道，便于集中管理多模型账单、Key 和模型名映射。模型与价格以模型价格为准，价格会调整；需要账号可直接注册。

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://ai.zhongshangqihang.com/v1",
    api_key=os.environ["ZSQH_API_KEY"],
)

resp = client.chat.completions.create(
    model="llama-3.3-70b-instruct",  # 以平台模型列表为准
    messages=[{"role": "user", "content": "用三句话说明 Llama 企业采购要先确认什么"}],
    temperature=0.2,
    max_tokens=256,
)
print(resp.choices[0].message.content)

十、常见问题

Meta 还提供官方 Llama API 吗？

截至 2026 年 10 月，Meta 的 Llama API 公共预览已于 2026 年 7 月 6 日下线，官方建议迁移到支持 Llama 的第三方提供商。Meta 开发者平台当前主推 Muse 系列，Muse 与 Llama 不是同一家族。是否有新计划，以 Meta 官方页面为准。

Llama 是开源模型吗，可以商用吗？

Llama 是开放权重模型，常被称作开源模型，但使用社区许可证，不是 OSI 认可的开源许可证。商业使用通常允许，但要满足月活阈值、标注、命名、Notice、Acceptable Use Policy 和贸易合规等条件，具体以对应版本的 LICENSE 为准。

自建 Llama 一定比 API 便宜吗？

不一定。自建省掉按 Token 费用，但增加 GPU、电力、机房、运维和冗余成本。利用率高、数据或离线要求明确时自建更有优势；低负载和波动流量通常按量 API 更省。

数据放在自有服务器就合规吗？

不自动合规。还要看谁能访问、日志和备份放在哪里、是否跨境、是否收集个人信息、远程运维是否触达数据。涉及个人信息出境时，按适用法规做法务评估。

怎样避免被单一供应商锁定？

用 OpenAI 兼容接口做抽象层，把模型名、地址和 Key 配置化；至少保留一条备用通道；合同写明数据导出、删除、迁移协助和模型下线通知；定期用真实任务复测替代模型。

相关阅读：OpenAI API 企业采购清单、Mistral API 企业采购清单、多模型 API 平台怎么选。