企业采购 Embedding API 和买聊天模型不太一样。聊天模型可以随时换;Embedding 往往要一次性向量化全库,之后持续产生查询费用,模型和维度定了就很难换。
所以采购单不能只写“每月多少额度、单价多少”,而要覆盖用量估算、计费与发票、数据处理、模型锁定、权限、降级和验收。下面这份清单可以直接拿去和供应商逐项核对。
说明:OpenAI 等名称是其权利人的商标,本文仅作技术采购说明。产品条款、价格与可用模型可能调整,以签署合同和官方页面为准。
一、采购清单总览
| 模块 | 关键问题 | 应交付的材料 |
|---|---|---|
| 用量与额度 | 全库多少 Token、查询量多大、限速多少 | 容量估算表、压测记录 |
| 计费与发票 | 计费单位、合同主体、发票类型 | 报价单、合同、发票 |
| 数据处理 | 是否留存、是否训练、如何删除 | DPA、条款、安全报告 |
| 模型与维度 | 维度、语言、版本与弃用策略 | 模型清单、评测报告 |
| 权限与密钥 | 项目隔离、轮换、审计 | Key 台账、权限矩阵 |
| 降级与验收 | 备用模型、回滚、验收指标 | 演练记录、验收单 |
任何一块只靠口头确认,后面都可能返工;数据处理和发票通常要提前走内部流程。
二、用量与额度:按 Token 估算,不按文档条数
Embedding 的用量分两部分:文档向量化是一次性的大批量成本,用户查询是持续的小流量成本。采购前要分开估算,不要被“文档只有几万篇”这种描述误导。
估算时注意四点:
- 用真实文档抽样,按分词结果或试算接口统计 Token,不要用字数简单换算。
- 确认限速口径是每分钟请求数、每分钟 Token 数,还是两者同时限制。
- 大批量任务要支持分批、重试和断点续跑,避免限速后从头再来。
- 维度越高,向量库占用的内存和磁盘越大,这部分要算进总成本。
容量估算可以写成一张简表:
一次性成本 ≈ 全库文档 Token × 向量化计费单价
持续成本 ≈ 月查询 Token × 查询计费单价 + 向量存储与带宽
预留余量 ≈ 重建索引、重试和业务增长的 20%–30%
具体单价以模型价格和合同报价为准,价格会调整,不要把某一时点的数字写死进年度预算。
三、计费、合同与发票
企业采购要把账单口径先对齐。至少要确认:按输入 Token 计费还是按请求计费;批量调用是否有阶梯或承诺用量;未使用余额能否退;欠费或超限时服务是暂停还是降级。
合同与发票方面,确认主体、币种、付款方式、发票类型和开票周期。走国内 AI 网关通常可以用人民币对公付款并开具增值税发票;直连海外厂商则涉及跨境付款、汇率和票据形式。两种方式各有代价,选之前把财务流程走一遍。
四、数据处理与隐私:六类材料要归档
Embedding 的输入是原始文本,可能包含客户资料、合同条款和内部文档。采购时不要只听“我们很安全”,要拿到可归档的材料:
- 数据处理协议(DPA),明确双方责任和处理范围。
- 数据保留与删除说明,包括删除请求的响应时限。
- 是否用于模型训练的明确条款,免费版与付费版要分开看。
- 子处理商清单,以及变更时是否提前通知。
- 安全问卷回复或独立审计报告。
- 数据驻留、跨境传输和区域选择说明。
向量本身也可能泄露语义信息。原文删除后向量是否同步删除、谁能查询向量库、备份保留多久,都要写进核对表。
五、维度与模型锁定
维度不是越高越好。维度高可能提升区分度,但存储、检索延迟和成本也上升;维度低更省资源,但细粒度语义可能丢失。部分模型支持自定义维度或降维,具体能力以模型文档为准。
比维度更麻烦的是模型锁定。不同模型的向量空间不兼容,换模型通常意味着全量重建索引。采购时要确认:模型版本是否会静默更新;旧版本何时弃用;弃用前提前多久通知;是否提供稳定的版本标识。合同里最好写明模型版本策略和通知期。
六、访问控制与密钥管理
- 用企业域名邮箱和公司主体注册,不要用个人账号承接公司业务。
- 生产、测试、开发环境使用不同的 Key,按项目单独建账。
- Key 只放在服务端环境变量或密钥管理服务中,不进前端、不进代码仓库。
- 按最小权限授权,只开放业务需要的模型和接口。
- 建立轮换和吊销流程,人员离职或项目下线时立即执行。
- 开启调用日志审计,日志中的原文要做脱敏或只保留元数据。
使用统一网关时,还要确认 Key 保管、日志保留、子账号和用量限额;多一层服务就多一层边界。
七、降级与备用方案
Embedding 服务故障时,业务可能表现为搜索无结果或 RAG 回答质量骤降,不一定报错。因此要提前设计降级:
- 主备模型尽量选择接口兼容的方案,减少代码改动。
- 如果备用模型维度不同,需要维护双索引或提前完成重建预案。
- 对限速和超时使用退避重试,批量任务进入队列而不是直接失败。
- 定期演练切换,确认备用通道的延迟和效果可接受。
八、试点验收:用数据说话
验收不要只看演示。建议选一个真实业务场景做小范围试点,按下面步骤执行:
- 抽取全库 5% 到 10% 的文档,覆盖主要格式、语言和业务类型。
- 准备 50 条以上真实查询,并人工标注相关结果作为基准。
- 用主备模型分别跑一遍,记录命中率、延迟、失败率和限速触发次数。
- 核对平台账单与内部统计的差异,确认计费口径一致。
- 验证权限隔离、用量告警、删除流程和日志脱敏是否按预期工作。
- 输出验收报告,明确通过标准和遗留问题。
上线前用一条最小请求验证 Key、模型名和返回维度:
curl "https://ai.zhongshangqihang.com/v1/embeddings" \
-H "Authorization: Bearer $EMBEDDING_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"text-embedding-3-small","input":["企业验收测试文本"]}'
返回中的向量维度应与向量库表结构一致;不一致时先改配置,不要直接写入生产库。示例模型名仅用于演示,实际可用模型以站内文档为准。
九、成本监控与月度复盘
Embedding 成本的特点是前期一次性、后期细水长流,最容易被忽略的是重建索引和重复查询。建议每月复盘四件事:各项目 Token 消耗、查询向量化次数、索引重建次数、账单偏差。
优化手段包括缓存高频查询向量、合并批量请求、过滤无意义调用。任何优化都要先确认不影响检索效果。
十、常见问题
Embedding API 一般怎么计费?
多数平台按输入 Token 计费,部分平台对批量任务或承诺用量提供不同档位。具体计费单位和单价以官方页面或合同为准,采购时要把查询和文档向量化分开估算。
向量化后的向量算不算敏感数据?
应当按敏感数据处理。向量可能被用于推断原始语义,向量库的访问权限、加密和备份策略要与原文同等级别管理。
换 Embedding 模型一定要重建索引吗?
通常需要。不同模型的向量空间不兼容,即使维度相同也不能保证可混用。换模型前要预留重建时间和成本,并准备好回滚方案。
企业使用 Embedding 需要单独签合同吗?
只要涉及公司数据、对公报销或对外服务,就建议走合同和对公付款。在线条款可以作为补充,但数据处理责任、服务等级和发票要求应落到书面合同里。
免费额度能用于企业试点吗?
可以用脱敏样本验证接口和效果,但不建议把生产数据或敏感文档提交到公共免费层。试点通过后,生产流量应迁到有明确数据处理条款的付费服务。
下一步
如果你需要统一管理多个模型的 Embedding 调用、按项目拆分 Key 和预算,可以先注册中商起航 AI 网关,用小批量文档跑通验收清单里的关键项,再决定采购规模。可用模型和价格以模型价格为准。
相关阅读:
