Те, кто ищет «цены LangChain», обычно хотят найти единую ставку. Но LangChain — открытый фреймворк, а счёт формируют API моделей, сервис Embedding, векторная база и платформа наблюдаемости. Если смешать всё в кучу, легко прийти к двум неверным выводам: «фреймворк бесплатный, значит дёшево» или «внедрили агента — расходы вышли из-под контроля».
Здесь мы не приводим устаревающие ставки, а даём методику разложения счёта, оценки и контроля. Цены моделей — на странице цены на модели, коммерческие тарифы — на страницах соответствующих продуктов.
Примечание: LangChain — товарный знак LangChain, Inc. Материал посвящён расходам и не означает подчинения или партнёрства с LangChain, Inc.; открытые лицензии, коммерческие продукты и цены могут меняться — сверяйтесь с официальным репозиторием и страницами продуктов.
1. «Цена LangChain» состоит из четырёх частей
Если разложить счёт, обычно видны фреймворк и библиотеки, вызовы моделей, поиск и хранение, наблюдаемость и развёртывание. Тарифицируются они совершенно по-разному:
| Статья расходов | Принцип тарификации | Когда возникает | Что легко упустить |
|---|---|---|---|
| Фреймворк и библиотеки | Открытый код, обычно без лицензионной платы | Установка и обновление | Коммерческая наблюдаемость, оценка и развёртывание считаются отдельно |
| Вызовы моделей | По входным и выходным токенам | Каждый запрос | Повторы и многошаговые вызовы тарифицируются повторно |
| Embedding | Обычно по входным токенам | Построение базы и каждый запрос | При смене модели индекс часто пересоздают |
| Векторная база и серверы | Подписка или потребление ресурсов | Постоянная работа | Простаивающие инстансы тоже могут стоить денег |
| Наблюдаемость и оценка | Тариф, места или объём | После включения трассировки | Политика выборки и хранения влияет на стоимость |
У большинства команд основная статья — вызовы моделей, но смотреть только на ставку недостаточно. В проектах с малым числом вызовов, но постоянно работающей векторной базой и фоновыми сервисами инфраструктура может оказаться заметнее.
2. Бесплатный фреймворк не означает низкую суммарную стоимость
Открытый фреймворк LangChain обычно не берёт лицензионную плату, но «бесплатно» описывает лицензию, а не стоимость эксплуатации. Расходы включают токены моделей, Embedding, векторную базу, серверы, платформу наблюдаемости и труд на поддержку; первые две статьи растут вместе с числом вызовов.
Чтобы понять, что дешевле, сравнивайте полную стоимость выполнения одной и той же задачи, а не цену фреймворка. Собственная оркестрация экономит на платформе, но добавляет время на поддержку; управляемая платформа снижает эксплуатационную нагрузку, но счёт зависит от объёма.
3. Chain и Agent увеличивают расход токенов
Стоимость обычного диалога приблизительно равна «вход плюс выход». Chain и Agent устроены иначе: на каждом шаге могут заново передаваться системный промпт, история, описания инструментов и результат предыдущего шага.
Предположим, вход одного шага — 4000 токенов, выход — 600, а среднее число шагов — шесть. Тогда вход близок к шести копиям контекста, а не к одной. Если история растёт с каждым шагом, последние шаги будут ещё длиннее. Три частых усилителя:
- Цикл вызова инструментов: вызов инструмента, чтение результата, новый вызов модели — чем больше циклов, тем больше повторяющегося контекста.
- Мультиагентная работа: у каждого подагента свой промпт и контекст, а при агрегации результаты копируются ещё раз.
- Повторы при сбоях: тайм-ауты, лимиты и ошибки формата запускают повтор, а неудачный запрос тоже может тарифицироваться.
Способ контроля — не отказ от агентов, а ограничение циклов: максимальное число шагов, тайм-аут, обрезка вывода инструментов, стабильные инструкции в префиксе для попадания в кеш. recursion_limit в LangGraph и максимальное число итераций исполнителя агента стоит задавать явно в продакшен-конфигурации.
4. RAG: Embedding и внедрение контекста
Расходы RAG делятся на два этапа. На этапе построения базы документы разбиваются на фрагменты, и для каждого создаётся вектор; стоимость зависит от числа фрагментов, их размера и перекрытия. На этапе запроса вектор создаётся для самого вопроса, а несколько найденных фрагментов добавляются в промпт как контекст.
Три места, которые легко недооценить:
- Пересоздание индекса: смена модели Embedding, изменение стратегии разбиения или очистка данных могут потребовать пересчёта всех векторов.
- Раздувание контекста: увеличение
top_kради полноты повышает объём исходного текста в каждом запросе и входные токены. - Модель переранжирования: дополнительный слой Rerank обычно улучшает релевантность, но добавляет вызовы и задержку.
Экономнее сначала улучшать качество поиска, затем сокращать количество: изменить разбиение, убрать дубликаты, добавить фильтрацию по метаданным, отсеять нерелевантные фрагменты через Rerank и только потом думать о более дешёвой модели. Тарификация Embedding и RAG разобрана в материалах ниже.
5. Кеш: экономия на повторяющемся префиксе
У кеша два уровня с разным назначением.
Первый — префиксный кеш провайдера модели. Если начало запроса совпадает, чтение из кеша обычно дешевле нового ввода, но поддержка, скидка и срок хранения различаются. Главное: системный промпт, роль и фиксированные документы ставьте в начало, текущий вопрос и временные данные — в конец; частые изменения ранних сообщений или смена модели сбрасывают кеш.
Второй — кеш уровня приложения. LangChain предоставляет set_llm_cache и подобные механизмы, позволяющие сохранять результаты одинаковых запросов в памяти, SQLite или Redis; поддержка зависит от пакета интеграции и версии, для чат-моделей особенно важна документация. Он подходит для стабильных и повторяющихся ответов и не подходит для сильной персонализации или запросов в реальном времени. Выгода определяется долей попаданий, а не фактом включения.
6. Превращаем оценку в воспроизводимую формулу
Не составляйте бюджет на ощущениях. Постройте модель затрат за шесть шагов:
- Перечислите все пути вызова моделей в приложении, включая основной процесс, повторы, суммирование и генерацию заголовков.
- Через колбэки или поля расхода в ответе измерьте входные и выходные токены каждого шага.
- Посчитайте среднее число шагов на успешную задачу и долю повторных попыток.
- Возьмите ставки со страницы цены на модели и приведите их к единой единице «за миллион токенов».
- Добавьте стоимость Embedding, векторной базы, серверов и наблюдаемости.
- Скорректируйте расчёт по реальному счёту первого месяца, уточнив число шагов и допущения о повторах.
Функция ниже выполняет только арифметику; ставки подставляете вы:
import os
# Ставки берутся со страницы тарифов и записываются в переменные окружения, единица: за миллион токенов
IN = float(os.environ["PRICE_IN_PER_MTOK"])
OUT = float(os.environ["PRICE_OUT_PER_MTOK"])
def task_cost(input_per_step: int, output_per_step: int, steps: int,
retry_rate: float = 0.1) -> float:
calls = steps * (1 + retry_rate)
return (input_per_step * calls * IN + output_per_step * calls * OUT) / 1_000_000
# Пример: вход 4000 и выход 600 на шаг, в среднем 6 шагов, доля повторов 10%
print(round(task_cost(4000, 600, 6), 4))
Следите за единицами: большинство страниц тарифов указывают цену за миллион токенов, поэтому в коде умножьте на ставку и разделите на миллион, чтобы не смешать с ценой за тысячу.
7. Лимиты бюджета: остановить перерасход до его появления
Оценка только прогнозирует, ограничения — страхуют. Настройте их на двух уровнях:
- На шлюзе задайте бюджет для каждого ключа, белый список моделей и ограничение скорости; разделяйте ключи по проектам и средам.
- В приложении задайте
max_tokens, тайм-аут запроса и предел повторов;max_tokensограничивает только вывод, длинный контекст контролируйте отдельно. - Для агента задайте максимальное число шагов и предел рекурсии, чтобы вызовы инструментов не зацикливались.
- Для каждого пользователя или арендатора задайте дневную квоту, чтобы один аномальный запрос не обрушил общий бюджет.
- Настройте уведомления о расходе и оповещайте ответственного при достижении порога.
Лимит — это не недоверие команде, а превращение непредсказуемого счёта в предсказуемую границу; особенно он нужен для тестовых и CI-ключей.
8. Наблюдаемость и разбор: стоимость на задачу
Общий счёт показывает, сколько потрачено, но не где. Разбирайте по задачам, моделям и цепочкам вызовов:
- Сообщения LangChain обычно содержат
usage_metadataс входными, выходными и общими токенами; у разных провайдеров поля могут отличаться. - Обработчики колбэков позволяют фиксировать время, имя модели и расход до и после каждого вызова — удобно для интеграции с существующей системой логов.
- Платформы наблюдаемости вроде LangSmith показывают полную цепочку вызовов, но необходимость включения, выборка и тарификация оцениваются под задачи команды.
При разборе смотрите на «среднюю стоимость успешной задачи», а не на «стоимость одного вызова»: первая включает повторы и вмешательство людей и ближе к реальной экономике. При больших объёмах используйте выборочную трассировку, чтобы наблюдаемость не стала новой статьёй расходов.
Частые вопросы
Берёт ли LangChain плату?
Открытый фреймворк обычно не взимает лицензионную плату и распространяется по лицензии MIT. Коммерческие продукты вроде LangSmith и платформ развёртывания тарифицируются отдельно. Конкретные лицензии и тарифы — в официальном репозитории и на страницах продуктов.
Почему локальные тесты дешёвые, а после запуска счёт быстро растёт?
В локальных тестах мало вызовов, короткий контекст и мало сбоев. После запуска растёт параллелизм, а повторы, длинные сеансы, циклы инструментов и контекст поиска увеличивают токены. Измерьте реальный расход на задачу и умножьте на объём вызовов после запуска — обычно это объясняет разницу.
Как оценить стоимость агента?
Сначала измерьте вход и выход одного шага, затем посчитайте среднее число шагов и долю повторов на задачу и оцените по формуле «шаги × расход на шаг». При накоплении истории фактический вход выше. Ограничьте циклы и откалибруйте расчёт по реальным трассировкам.
На чём в RAG основные расходы?
Обычно на контекстных токенах этапа генерации, затем на Embedding при построении базы. Поиск и векторная база тоже стоят денег, но редко становятся главной статьёй. Настройка top_k, разбиения и Rerank обычно даёт эффект быстрее смены модели.
Всегда ли кеш экономит деньги?
Нет. Выгода зависит от доли повторяющихся запросов и стабильности префикса. При разрозненных запросах, необходимости реального времени или сильной персонализации доля попаданий будет низкой. Сначала оцените её по логам, потом решайте, внедрять ли кеш.
Что дальше
Стоимость LangChain раскладывается на четыре счёта: фреймворк обычно бесплатен, модели тарифицируются по токенам, поиск и инфраструктура работают постоянно, наблюдаемость и развёртывание зависят от тарифа. Порядок контроля: сначала измерение, затем оценка, потом лимиты и калибровка по реальному счёту. Если нужен единый вход к разным моделям, статистика по ключам и управление бюджетом, зарегистрируйтесь в ZSQH AI Gateway; модели и цены — на странице цены на модели.
Читайте также:
