Grok API предоставляет xAI; оплата идёт по токенам, вход и выход тарифицируются раздельно. Многие команды при планировании смотрят только на ставку модели, а после запуска видят счёт, сильно отличающийся от оценки: история сообщений передаётся заново каждый раунд, выход получается слишком длинным, повторы идут без задержки, длинные документы загружаются повторно — всё это умножает затраты.
В статье нет фиксированных ставок: разобрана структура тарификации Grok API, дан воспроизводимый метод расчёта и порядок контроля затрат. Конкретные ставки, доступные модели и длина контекста — в официальной документации xAI и на странице цены на модели.
Примечание: xAI и Grok — товарные знаки соответствующих правообладателей; статья носит технический характер. Названия моделей, интерфейсы и цены могут меняться; перед закупкой сверьтесь с официальной страницей и страницей цены на модели.
1. Из чего состоит счёт Grok API
Grok API использует совместимый с OpenAI формат Chat Completions; счёт обычно состоит в основном из входных и выходных токенов. В реальном проекте нужно учитывать ещё кэш, вызовы инструментов, длинный контекст и повторы после сбоев.
| Статья | Когда возникает | Что увеличивает | Как контролировать |
|---|---|---|---|
| Входные токены | Системный промпт, история, определения инструментов, документы | Полная история передаётся каждый раунд | Резюме, обрезка, поиск релевантных фрагментов |
| Вход из кэша | Повторное использование одного префикса | Нестабильный префикс даёт промах | Фиксировать system и порядок инструментов |
| Выходные токены | Сгенерированный контент | Длинные ответы, неконтролируемый формат | Задать max_tokens, структурированный вывод |
| Вызовы инструментов | Функции, поиск и другие возможности | Многораундовые циклы, повторные запросы | Ограничить раунды, кэшировать результаты |
| Длинный контекст | Длинные документы и диалоги | Вся база целиком, повторное чтение | Обработка частями, только релевантные фрагменты |
| Повторы | Повторная отправка после 429 и тайм-аутов | Нет задержки, высокий параллелизм | Экспоненциальная задержка, проверка идемпотентности |
У разных моделей и возможностей может быть отдельная методика: платен ли вход из кэша, считается ли вызов инструмента отдельно — это определяется официальным описанием тарификации xAI. При планировании сначала определите, какие статьи вы используете, и только потом обсуждайте ставку.
2. Почему при одинаковом числе вызовов счёт отличается в разы
Число вызовов может совпадать, а счёт — сильно различаться. Обычно различия возникают в шести местах:
- Соотношение входа и выхода: у чат-бота много входа и средний выход; у генерации контента короткий вход и длинный выход. Их нельзя оценивать одной средней.
- Накопление контекста: в многораундовом диалоге вся история передаётся каждый раз, и входные токены быстро растут с числом раундов.
- Доля попаданий в кэш: фиксированный префикс переиспользуется; метки времени, случайные ID и динамические списки инструментов ломают кэш.
- Класс модели: разные модели Grok имеют разные возможности и ставки; использование старшей модели для простых задач раздувает бюджет.
- Число повторов: каждый повтор — новый запрос; немедленная отправка после 429 легко превращается в шторм повторов.
- Длина выхода: ставка выхода обычно выше входа; длинные ответы, повторные объяснения и неконтролируемый формат увеличивают счёт.
| Сценарий | Структура токенов | Основная статья | Направление оптимизации |
|---|---|---|---|
| Чат-бот поддержки | Много входа, средний выход | Повторная передача истории | Резюме и кэш |
| Извлечение из документов | Длинный вход, короткий выход | Повторное чтение документа | Поиск и лёгкая модель |
| Кодовый помощник | Большой вход и выход | Результаты инструментов и рассуждения | Обрезка вывода инструментов, маршрутизация моделей |
| Генерация контента | Короткий вход, длинный выход | Выходные токены | Генерация частями, ограничение длины |
3. Расчёт стоимости одного запроса
Если разложить запрос, стоимость выражается формулой:
Стоимость запроса =
входные токены без кэша × ставка входа
+ входные токены из кэша × ставка кэша
+ выходные токены × ставка выхода
+ дополнительные платы за инструменты или поиск
Формула несложная, сложность — получить реальное число токенов. Не угадывайте по числу символов, читайте поле usage из ответа:
import os
from openai import OpenAI
client = OpenAI(
api_key=os.environ["GROK_API_KEY"],
base_url=os.environ.get("GROK_BASE_URL", "https://ai.zhongshangqihang.com/v1"),
)
resp = client.chat.completions.create(
model="grok-4",
messages=[{"role": "user", "content": "Разбей это требование на пять задач разработки."}],
max_tokens=512,
)
usage = resp.usage
print("Входные токены:", usage.prompt_tokens)
print("Выходные токены:", usage.completion_tokens)
print("Всего токенов:", usage.total_tokens)
Сумму умножайте на фактическую ставку своего аккаунта; ставку берите со страницы цены на модели, а не из скриншота нескольких месяцев давности. Поле статистики попаданий в кэш в разных реализациях совместимости может называться по-разному; ориентируйтесь на фактический ответ.
4. Порядок снижения затрат
У снижения затрат есть последовательность; обратный порядок часто приводит к пустой работе. Рекомендуются семь шагов:
- Сначала измерьте базу: выгрузите журналы реальных запросов за последнюю неделю и посчитайте вход и выход по проектам, моделям и сценариям — поймите, куда уходят деньги.
- Затем маршрутизируйте модели: классификацию, извлечение и переписывание — на лёгкую модель, сложные рассуждения — на старшую; распределяйте по сложности задачи, а не по привычке команды.
- Сокращайте вход: RAG возвращает только релевантные фрагменты, история суммируется, из ответов инструментов остаются только нужные поля.
- Ограничивайте выход: задайте разумный
max_tokens, требуйте JSON или фиксированные поля, убирайте вежливые обороты и повторные объяснения. - Используйте кэш: зафиксируйте system prompt, определения инструментов и префикс базы знаний и проверьте, что кэш действительно попадает.
- Управляйте повторами: для 429 и тайм-аутов — экспоненциальная задержка со случайным разбросом и максимальное число попыток, без агрессивных повторов с фиксированным интервалом.
- Бюджет и оповещения: задайте лимиты по проектам, еженедельно смотрите рейтинг расхода и быстро локализуйте аномальный рост.
Сначала управление входом и кэш, потом смена модели на более дешёвую. Иначе вы просто делаете нестабильный вывод дешевле, а стоимость переделок возвращается.
5. Как управлять бюджетом и счетами
- Один ключ на проект и лимит бюджета по проекту, чтобы сервисы не вытесняли друг друга.
- В журнале как минимум время, модель, входные и выходные токены, статус и ID запроса; не записывайте полный ключ и чувствительное содержимое.
- Ежемесячно сверяйте по трём измерениям — проект, модель, сценарий — и находите самые быстрорастущие вызовы.
- Экономию от кэша, маршрутизации и ограничения выхода записывайте отдельно, иначе эффект оптимизации не доказать.
- Командам, которым нужны оплата в юанях и счета, подходит внутренний AI-шлюз с единым биллингом; конкретные цены, курс и правила документов — на странице цены на модели.
Частые вопросы
У Grok API только две статьи — вход и выход?
Обычный счёт состоит в основном из входных и выходных токенов, но вход из кэша, вызовы инструментов и поиск могут иметь отдельную тарификацию. Точный состав — в официальном описании и детализации счёта.
Почему оценка по среднему числу токенов неточна?
Среднее скрывает запросы из длинного хвоста. Несколько запросов со сверхдлинным контекстом, длинным выходом или повторами могут дать большую часть затрат. Смотреть распределение по реальным журналам надёжнее, чем умножать среднее на число вызовов.
Сколько экономит кэш?
Зависит от доли повторного использования префикса и доли попаданий. Чтение из кэша обычно дешевле обычного входа, но запись может иметь наценку; при слишком коротком или постоянно меняющемся префиксе попаданий не будет. Сначала подтвердите попадания по журналам, потом оценивайте экономию.
Чем длиннее выход, тем дороже?
Обычно да: выход тарифицируется отдельно, и ставка часто выше входа. Ограничение ответа нужной бизнесу длиной и структурированный вывод обычно дают эффект быстрее смены модели.
Как команде в Китае платить в юанях?
Можно вызывать Grok через AI-шлюз, который предоставляет пополнение в юанях и счета, с единым биллингом нескольких моделей. Доступные модели, цены и правила документов — на странице цены на модели.
Что дальше
Создайте тестовый ключ в ZSQH AI Gateway, прогоните пакет реальных задач и запишите входные и выходные токены, затем посчитайте бюджет по формуле выше. Доступность моделей и цены — на странице цены на модели.
Связанные статьи:
