Закупка Embedding API для компании отличается от покупки чат-модели. Чат-модель можно менять когда угодно; Embedding часто требует единовременной векторизации всей базы, после чего постоянно генерирует расходы на запросы, а выбранные модель и размерность поменять уже трудно.
Поэтому в закупочном документе недостаточно написать «столько-то квоты в месяц и такая-то цена за единицу». Нужно покрыть оценку объёма, биллинг и счета, обработку данных, привязку к модели, права, деградацию и приёмку. Чек-лист ниже можно использовать для построчной сверки с поставщиком.
Примечание: OpenAI и другие названия являются товарными знаками их правообладателей; материал носит технический характер и описывает закупочный процесс. Условия продуктов, цены и доступные модели могут меняться; ориентируйтесь на подписанный договор и официальные страницы.
1. Обзор закупочного чек-листа
| Модуль | Ключевые вопросы | Какие материалы запросить |
|---|---|---|
| Объём и квоты | Сколько токенов в базе, каков объём запросов, какие лимиты | Таблица оценки мощности, протокол нагрузочного теста |
| Биллинг и счета | Единица тарификации, юрлицо договора, тип счёта | Коммерческое предложение, договор, счёт-фактура |
| Обработка данных | Хранение, обучение, удаление | DPA, условия, отчёт о безопасности |
| Модель и размерность | Размерность, языки, версии и политика вывода | Список моделей, отчёт об оценке |
| Права и ключи | Изоляция проектов, ротация, аудит | Реестр ключей, матрица прав |
| Деградация и приёмка | Резервная модель, откат, критерии приёмки | Протокол учений, акт приёмки |
Если хотя бы один блок подтверждён только на словах, позже возможна переделка; обработка данных и счета обычно требуют заранее пройти внутренние процедуры.
2. Объём и квоты: считайте токены, а не число документов
Объём Embedding делится на две части: векторизация документов — разовая крупная затрата, запросы пользователей — постоянный небольшой поток. До закупки их нужно оценивать отдельно и не полагаться на формулировку «у нас всего несколько десятков тысяч документов».
При оценке учитывайте четыре момента:
- Берите реальные документы, считайте токены по результату tokenizer или пробным вызовом, а не пересчитывайте по числу символов.
- Уточните, как задан лимит: запросы в минуту, токены в минуту или оба ограничения одновременно.
- Крупные задачи должны поддерживать разбиение, повторы и продолжение с контрольной точки, чтобы после лимита не начинать заново.
- Чем выше размерность, тем больше памяти и диска занимает векторная база; это тоже входит в общую стоимость.
Оценку мощности можно записать короткой формулой:
Разовая стоимость ≈ токены всех документов × цена векторизации за единицу
Постоянная стоимость ≈ токены запросов за месяц × цена запроса за единицу + хранение векторов и трафик
Резерв ≈ 20–30% на перестройку индекса, повторы и рост бизнеса
Конкретные цены смотрите на странице тарифов и в коммерческом предложении; они меняются, не вписывайте цифры одного момента в годовой бюджет как константу.
3. Биллинг, договор и счета
При корпоративной закупке сначала нужно согласовать правила биллинга. Как минимум уточните: оплата идёт по входным токенам или по запросам; есть ли ступени или обязательный объём для батчей; можно ли вернуть неиспользованный остаток; что происходит при задолженности или превышении — сервис приостанавливается или деградирует.
По договору и счетам проверьте юрлицо, валюту, способ оплаты, тип счёта и период выставления. Через локальный AI-шлюз обычно можно платить в юанях по безналичному расчёту и получать счёт; при прямом доступе к зарубежному вендору возникают трансграничные платежи, курс и иная форма документов. У каждого пути своя цена — перед выбором пройдите финансовый процесс целиком.
4. Обработка данных и приватность: шесть документов в архив
Вход Embedding — это исходный текст, который может содержать данные клиентов, условия договоров и внутренние документы. При закупке недостаточно слышать «у нас безопасно»; нужны материалы, которые можно положить в архив:
- Соглашение об обработке данных (DPA) с зонами ответственности и объёмом обработки.
- Описание хранения и удаления, включая срок реакции на запрос удаления.
- Явные условия об использовании данных для обучения; бесплатную и платную версии смотрите отдельно.
- Список субобработчиков и порядок уведомления об изменениях.
- Ответы на опросник безопасности или независимый аудит.
- Описание размещения данных, трансграничной передачи и выбора региона.
Сам вектор тоже может раскрывать семантическую информацию. Удаляется ли вектор одновременно с исходным текстом, кто имеет доступ к векторной базе, сколько хранятся резервные копии — всё это должно быть в таблице проверки.
5. Размерность и привязка к модели
Чем выше размерность, тем лучше может быть различимость, но тем выше хранение, задержка поиска и стоимость; низкая размерность экономит ресурсы, но может терять тонкий смысл. Некоторые модели поддерживают пользовательскую размерность или усечение; конкретные возможности смотрите в документации.
Сложнее размерности — привязка к модели. Векторные пространства разных моделей несовместимы, и смена модели обычно означает полную перестройку индекса. При закупке уточните: обновляется ли версия модели незаметно; когда выводится из эксплуатации старая; за сколько времени предупреждают; есть ли стабильный идентификатор версии. В договоре лучше зафиксировать политику версий и срок уведомления.
6. Контроль доступа и управление ключами
- Регистрируйтесь на корпоративную почту и юрлицо, не ведите бизнес с личного аккаунта.
- Для производства, теста и разработки используйте разные ключи и отдельный учёт по проектам.
- Храните ключи только в серверных переменных окружения или менеджере секретов, не во фронтенде и не в репозитории.
- Выдавайте минимальные права: только те модели и интерфейсы, которые нужны бизнесу.
- Заведите процесс ротации и отзыва, выполняйте его сразу при увольнении сотрудника или закрытии проекта.
- Включите аудит журналов вызовов; исходный текст в журналах маскируйте или оставляйте только метаданные.
При использовании единого шлюза дополнительно уточните хранение ключей, срок хранения журналов, субаккаунты и лимиты расхода: каждый дополнительный слой — дополнительная граница.
7. Деградация и резервные схемы
При сбое Embedding бизнес может не получить ошибку, а просто увидеть пустую выдачу поиска или резкое падение качества RAG. Поэтому резервную схему проектируют заранее:
- основную и резервную модели выбирайте совместимыми по интерфейсу, чтобы меньше менять код;
- если у резервной модели другая размерность, нужен двойной индекс или заранее подготовленный план перестройки;
- при лимитах и таймаутах используйте повтор с задержкой, а батч-задачи ставьте в очередь, а не роняйте сразу;
- регулярно проводите учения переключения и проверяйте, что задержка и качество резервного канала приемлемы.
8. Приёмка пилота: опирайтесь на данные
Приёмка не должна ограничиваться демонстрацией. Выберите реальный бизнес-сценарий и проведите небольшой пилот в таком порядке:
- Возьмите 5–10% документов из всей базы, покрывающих основные форматы, языки и типы контента.
- Подготовьте не менее 50 реальных запросов и вручную разметьте релевантные результаты как эталон.
- Прогоните основную и резервную модели, зафиксировав долю попаданий, задержку, долю ошибок и число срабатываний лимитов.
- Сверьте счёт платформы с внутренней статистикой и убедитесь, что правила тарификации совпадают.
- Проверьте изоляцию прав, оповещения о расходе, процесс удаления и маскирование журналов.
- Выпустите отчёт о приёмке с критериями прохождения и списком открытых вопросов.
Перед запуском проверьте ключ, имя модели и возвращаемую размерность минимальным запросом:
curl "https://ai.zhongshangqihang.com/v1/embeddings" \
-H "Authorization: Bearer $EMBEDDING_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"text-embedding-3-small","input":["Тестовый текст для приёмки"]}'
Размерность в ответе должна совпадать со структурой таблицы векторной базы; при расхождении сначала исправьте конфигурацию и не пишите данные в производственную базу. Имя модели в примере приведено для демонстрации; фактические доступные модели смотрите в документации сайта.
9. Мониторинг затрат и ежемесячный разбор
Особенность Embedding — крупная разовая трата в начале и постепенный расход дальше; легче всего упустить перестройку индекса и повторные запросы. Раз в месяц разбирайте четыре вещи: расход токенов по проектам, число векторизаций запросов, число перестроек индекса и отклонение счёта.
Способы оптимизации: кешировать векторы частых запросов, объединять батч-запросы, отфильтровывать бессмысленные вызовы. Любая оптимизация должна сначала подтвердить, что не ухудшает качество поиска.
10. Частые вопросы
Как обычно тарифицируется Embedding API?
Большинство платформ считает входные токены; некоторые предлагают отдельные условия для батчей или обязательного объёма. Точные единицы и цены смотрите на официальной странице или в договоре, а при закупке оценивайте запросы и векторизацию документов отдельно.
Считаются ли векторы чувствительными данными?
Да, к ним стоит относиться как к чувствительным. По вектору можно пытаться восстановить исходный смысл, поэтому права доступа, шифрование и резервное копирование векторной базы должны быть не ниже уровня исходного текста.
Обязательно ли перестраивать индекс при смене Embedding-модели?
Обычно да. Векторные пространства разных моделей несовместимы, и даже одинаковая размерность не гарантирует совместимость. Перед сменой заложите время и стоимость перестройки и подготовьте план отката.
Нужен ли компании отдельный договор на использование Embedding?
Если речь идёт о корпоративных данных, безналичной оплате или внешнем сервисе, лучше оформить договор и оплату по счёту. Онлайн-условия могут дополнять его, но ответственность за данные, уровень сервиса и требования к счетам должны быть зафиксированы в письменном договоре.
Можно ли использовать бесплатную квоту для корпоративного пилота?
Можно проверить интерфейс и качество на обезличенных образцах, но производственные данные и чувствительные документы не стоит отправлять в публичный бесплатный уровень. После успешного пилота переносите трафик в платный сервис с явными условиями обработки данных.
Что дальше
Если нужно централизованно управлять вызовами Embedding нескольких моделей и разделять ключи и бюджеты по проектам, зарегистрируйтесь в ZSQH AI Gateway, прогоните ключевые пункты чек-листа на небольшом массиве документов и затем определяйте масштаб закупки. Доступные модели и цены смотрите на странице тарифов.
Читайте также:
