Embedding — базовая функция преобразования текста в векторы; без неё не обходятся RAG, семантический поиск, дедупликация и кластеризация. Первый вопрос, который задают многие: можно ли пользоваться этим бесплатно? Ответ — да, но границ у бесплатного доступа больше, чем кажется.

Ниже разобраны источники бесплатной векторизации, ограничения по квотам, скорости, приватности, размерности и качеству, а также подходящие и неподходящие сценарии и момент, когда стоит переходить на платный сервис. Конкретные квоты не приводятся: политика платформ меняется быстро, ориентируйтесь на официальные страницы.

Примечание: OpenAI и другие названия являются товарными знаками их правообладателей; BGE, E5, GTE, Jina Embeddings — названия моделей соответствующих проектов и сообществ. Материал носит технический характер; квоты, условия и цены смотрите на официальных страницах.

1. Откуда обычно берётся бесплатный Embedding

На рынке есть четыре распространённых источника:

  • пробные квоты новых пользователей облачных платформ, как правило со сроком действия и лимитом вызовов;
  • бесплатный уровень Embedding API с ограничением по числу запросов или токенов, подходящий для малого трафика;
  • модели с открытыми весами, которые можно скачать и развернуть на своём сервере или GPU;
  • небольшие локальные модели, встроенные в настольные приложения или офлайн-конвейеры.

Структура затрат у этих вариантов совершенно разная. В первых двух случаях вычислительные ресурсы оплачивает провайдер, а вы платите квотами, скоростью и условиями; в последних двух ресурсы ваши: веса бесплатны, но оборудование, эксплуатация и настройка ложатся на вас.

2. На чём обычно упирается бесплатный тариф

Бесплатный уровень редко сводится к «стольким-то токенам в месяц». На практике встречаются такие ограничения:

  1. Потолок числа запросов и токенов в минуту или в сутки — пакетные задачи легко его достигают.
  2. Ограничение размера одного запроса: при большом массиве документов приходится делить его на несколько вызовов.
  3. Максимальная длина одного входа: длинные документы нужно предварительно нарезать.
  4. Фиксированная размерность без выбора: при смене модели структуру индекса придётся менять.
  5. Отсутствие SLA на бесплатном уровне: в пик выше вероятность очереди и сбоев.
  6. Условия обработки данных могут отличаться от платной версии — это упускают чаще всего.

Поэтому при оценке бесплатного варианта смотрите не только на размер квоты, но и на скорость, размер батча, размерность и условия вместе.

3. Самостоятельное развёртывание открытых моделей: бесплатны веса, а не совокупная стоимость

Модели с открытыми весами (например, публичные модели семейств BGE, E5, GTE, Jina Embeddings) можно скачать и развернуть у себя; это подходит командам, чьи данные не должны покидать внутреннюю сеть. Но бесплатны только файлы весов. Реальные затраты включают GPU или CPU для инференса, выбор и оценку модели, обёртку в сервис, мониторинг и обновления.

Критерий Бесплатная квота API Открытая модель у себя
Стартовые вложения Низкие, регистрация и работа Нужны оборудование и развёртывание
Предельные затраты Ограничены скоростью и квотой В основном электричество и труд эксплуатации
Где данные Отправляются провайдеру Остаются в вашей среде
Качество Зависит от модели провайдера Зависит от выбора и настройки
Масштабирование Ограничено бесплатной квотой Ограничено мощностью оборудования
Ответственность за поддержку Провайдер Ваша команда

Если у команды нет опыта эксплуатации GPU, скрытые затраты самостоятельного развёртывания часто оказываются выше ожиданий. И наоборот: при чувствительных данных, большом и стабильном объёме вызовов долгосрочная стоимость собственного развёртывания может быть более предсказуемой.

4. Сначала небольшой тест, потом решение

Главный риск бесплатного варианта — не потраченные деньги, а неверно выбранная модель, под которую уже построен индекс. Рекомендуется небольшая оценка, которую можно завершить за две недели:

  1. Возьмите из реального бизнеса 50–100 репрезентативных текстов, покрывающих разные длины, языки и типы контента.
  2. Подготовьте набор запросов и вручную размеченные релевантные результаты как эталон поиска.
  3. Прогоните один и тот же массив через кандидатов — бесплатный API и открытые модели — и зафиксируйте размерность векторов и время работы.
  4. Посчитайте долю попаданий, распределение сходства и долю ошибок; отдельно смотрите на китайский язык и отраслевые термины.
  5. Оцените общий объём токенов всех документов, время перестройки индекса и будущую стоимость запросов.

Проверить интерфейс и сходство можно небольшим скриптом:

from openai import OpenAI

client = OpenAI(
    api_key="sk-ваш-ключ",
    base_url="https://ai.zhongshangqihang.com/v1",
)

texts = ["Какова политика возврата", "Как запросить возврат средств", "Как выставить счёт"]
resp = client.embeddings.create(model="text-embedding-3-small", input=texts)
vectors = [item.embedding for item in resp.data]

def cosine(a, b):
    dot = sum(x * y for x, y in zip(a, b))
    norm = (sum(x * x for x in a) ** 0.5) * (sum(y * y for y in b) ** 0.5)
    return dot / norm

print(cosine(vectors[0], vectors[1]))

Название модели в примере приведено только для демонстрации; фактические доступные модели и размерность смотрите на странице тарифов и в документации сайта.

5. Приватность и комплаенс: самая незаметная цена бесплатного уровня

Бесплатные сервисы часто обменивают более мягкие условия обработки данных на объём использования. Перед подключением уточните как минимум три вещи: сохраняются ли входные данные, могут ли они использоваться для улучшения или обучения модели и как обрабатывается запрос на удаление. Условия могут различаться по платформам, регионам и версиям — бесплатной и платной.

Для сценариев с клиентскими договорами, персональными данными, финансовой информацией и исходным кодом не стоит делать публичный бесплатный API вариантом по умолчанию. Сначала проверьте функциональность на обезличенных образцах, а производственные данные отправляйте в платный сервис с явным соглашением об обработке или в развёртывание внутри периметра.

6. Какие сценарии подходят для бесплатной векторизации

Подходящие сценарии обычно имеют такие признаки: данные нечувствительны, объём небольшой, ограничение скорости приемлемо, а результат нужен для проверки, а не для производственных решений. Например, личные учебные проекты, семантический поиск в прототипе продукта, проверка осуществимости небольшой внутренней базы знаний, офлайн-эксперименты по кластеризации текстов.

Неподходящие сценарии тоже вполне определённы: внешний сервис с требованием стабильного SLA, ежедневная обработка больших массивов документов, данные с обязательствами по приватности или договору, необходимость долго сохранять фиксированную размерность и версию модели. В таких случаях бесплатная квота не экономит деньги, а откладывает риск до момента после запуска.

7. Путь от бесплатного к платному

Разумный путь — сначала проверить эффект на бесплатной квоте или открытой модели, затем перенести производственный трафик на платный API. При переходе обратите внимание на три вещи: поддерживает ли новая модель ту же или отображаемую размерность; можно ли сохранить старые векторы — при смене модели обычно требуется полная перестройка индекса; совместим ли интерфейс — OpenAI-совместимый API уменьшает правки кода.

Если нужно сравнить несколько моделей, сначала протестируйте небольшой трафик через единый шлюз, а затем разделите ключи и бюджеты по проектам, чтобы не открывать аккаунт у каждого поставщика. Конкретные цены меняются; ориентируйтесь на страницу тарифов.

8. Частые вопросы

Какой объём обычно даёт бесплатный Embedding?

Платформы сильно различаются. Часто задают суточный или месячный лимит по запросам или токенам вместе с ограничением в минуту. Точные цифры и срок действия смотрите на официальной странице; не планируйте мощность по слухам.

Можно ли использовать бесплатную квоту в коммерческих целях?

Это зависит от условий. Некоторые бесплатные уровни разрешают коммерческое использование с ограничениями на данные, другие предназначены только для оценки. Перед запуском уточните у юристов: «можно технически» не равно «можно по договору».

Открытые модели всегда хуже коммерческого API?

Не обязательно. В задачах китайского поиска подходящая открытая модель вместе с хорошей нарезкой и оценкой может закрыть многие бизнес-сценарии. Разрыв чаще проявляется на длинных текстах, в многоязычности и в стабильности «из коробки»; проверять нужно на своих данных.

Используются ли данные бесплатного уровня для обучения?

Политика платформ различается, и версии могут отличаться. Если подтвердить нельзя, исходите из того, что данные могут использоваться, и не отправляйте чувствительные материалы в публичный бесплатный интерфейс.

Можно ли использовать старые векторы после смены модели?

Обычно напрямую смешивать нельзя. Векторные пространства разных моделей несовместимы; после смены модели нужно заново векторизовать все документы и синхронизировать модель на стороне запросов. Поэтому стоимость миграции стоит учитывать ещё при выборе.

Что дальше

Если эффект уже проверен на небольшой выборке, следующий шаг — подключить тестовый трафик к единому входу: зарегистрируйтесь в ZSQH AI Gateway, сравните на небольшой квоте размерность, задержку и качество поиска разных Embedding-моделей и затем выбирайте производственное решение. Список моделей и цены смотрите на странице тарифов.

Читайте также: