Grok API는 xAI가 제공하며 토큰으로 과금하고 입력과 출력을 따로 계산합니다. 많은 팀이 예산을 세울 때 모델 단가만 보다가, 출시 후 청구서가 추정과 크게 벌어지는 것을 발견합니다. 이전 메시지를 매 턴 다시 보내고, 출력이 지나치게 길고, 재시도에 백오프가 없고, 긴 문서를 반복 로드하는 모든 행동이 비용을 키웁니다.

이 글은 특정 단가를 고정하지 않고 Grok API의 과금 구조를 나누어 재현 가능한 산정 방법과 비용 관리 순서를 제공합니다. 구체적인 단가, 사용 가능 모델, 컨텍스트 길이는 xAI 공식 문서와 사이트의 모델 가격을 기준으로 하십시오.

안내: xAI, Grok은 권리자의 상표이며 본 문서는 기술 소개 목적입니다. 모델명, 인터페이스, 가격은 조정될 수 있으므로 구매 전 공식 페이지와 사이트의 모델 가격을 확인하십시오.

1. Grok API 청구서는 무엇으로 구성되는가

Grok API는 OpenAI 호환 Chat Completions 형식을 사용하며 청구서는 보통 입력 토큰과 출력 토큰이 중심입니다. 실제 프로젝트에서는 캐시, 도구 호출, 장문 컨텍스트, 실패 재시도까지 함께 고려해야 합니다.

과금 항목 발생 시점 흔한 확대 요인 관리 수단
입력 토큰 시스템 프롬프트, 이전 메시지, 도구 정의, 문서 매 턴 전체 이력 재전송 요약, 잘라내기, 검색 회수
캐시 입력 같은 접두사 반복 사용 접두사 불안정으로 미적중 system과 도구 순서 고정
출력 토큰 모델이 생성한 내용 답변이 장황하고 형식이 통제되지 않음 max_tokens 설정, 구조화 출력
도구 호출 함수 호출, 검색 등 부가 기능 다중 루프, 중복 질의 라운드 제한, 결과 캐시
장문 컨텍스트 긴 문서, 긴 대화 전체 저장소 삽입, 반복 읽기 구간 처리, 관련 조각만 사용
재시도 429, 시간 초과 후 재전송 백오프 없음, 동시성 과다 지수 백오프, 멱등 확인

모델과 기능에 따라 별도 과금 기준이 있을 수 있습니다. 예를 들어 캐시 입력이 과금되는지, 도구 호출이 별도 계산인지는 xAI 공식 과금 설명을 기준으로 해야 합니다. 예산을 세울 때 먼저 자신이 쓰는 과금 항목을 확인하고 나서 단가를 논하십시오.

2. 같은 호출인데 청구서가 몇 배 차이 나는 이유

호출 횟수가 같아도 청구서는 완전히 달라질 수 있습니다. 차이는 보통 다음 여섯 곳에서 나옵니다.

  1. 입출력 비율: 고객센터 봇은 입력이 많고 출력이 중간이며, 콘텐츠 생성은 입력이 짧고 출력이 깁니다. 두 비용 구조를 같은 평균값으로 추정할 수 없습니다.
  2. 컨텍스트 누적: 다중 턴 대화가 매 턴 전체 이력을 붙이면 입력 토큰이 턴 수에 따라 빠르게 늘어납니다.
  3. 캐시 적중률: 고정 접두사는 재사용할 수 있지만 타임스탬프, 무작위 ID, 동적 도구 목록은 캐시를 무효화합니다.
  4. 모델 등급: Grok 모델마다 성능과 단가가 다르며 단순 작업에 고급 모델을 쓰면 예산이 커집니다.
  5. 재시도 횟수: 재시도는 매번 새 요청이며 429 직후 즉시 재전송하면 재시도 폭풍이 되기 쉽습니다.
  6. 출력 길이: 출력 단가가 보통 입력보다 높고 긴 답변, 반복 설명, 통제되지 않은 형식이 비용을 늘립니다.
장면 토큰 구조 주요 비용 최적화 방향
고객센터 봇 입력 많음, 출력 중간 이전 메시지 반복 전송 요약과 캐시
문서 추출 입력 김, 출력 짧음 문서 반복 읽기 검색과 소형 모델
코드 어시스턴트 입출력 모두 큼 도구 결과와 사고 과정 도구 출력 축소, 모델 라우팅
콘텐츠 생성 입력 짧음, 출력 김 출력 토큰 구간 생성, 길이 제한

3. 요청 한 번의 비용 계산하기

요청 하나를 나누면 비용은 다음 공식으로 표현됩니다.

요청 1회 비용 =
  미캐시 입력 Token × 입력 단가
+ 캐시 입력 Token × 캐시 단가
+ 출력 Token × 출력 단가
+ 도구 또는 검색 등 추가 비용

공식 자체는 어렵지 않지만 실제 토큰 수를 얻는 것이 어렵습니다. 글자 수로 추측하지 말고 응답의 usage 필드를 직접 읽으십시오.

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["GROK_API_KEY"],
    base_url=os.environ.get("GROK_BASE_URL", "https://ai.zhongshangqihang.com/v1"),
)

resp = client.chat.completions.create(
    model="grok-4",
    messages=[{"role": "user", "content": "이 요구사항을 다섯 개 개발 작업으로 나누세요."}],
    max_tokens=512,
)

usage = resp.usage
print("입력 Token:", usage.prompt_tokens)
print("출력 Token:", usage.completion_tokens)
print("합계 Token:", usage.total_tokens)

금액은 계정의 실제 단가를 곱해야 하며 단가는 모델 가격에서 읽고 몇 달 전 캡처를 사용하지 마십시오. 캐시 적중 통계 필드는 호환 구현마다 이름이 다를 수 있으므로 응답의 실제 반환값을 기준으로 하십시오.

4. 비용을 낮추는 순서

비용 절감에는 순서가 있고 순서를 뒤집으면 헛수고가 되기 쉽습니다. 다음 일곱 단계를 권장합니다.

  1. 먼저 기준선 수량화: 최근 일주일의 실제 요청 로그를 내보내 프로젝트, 모델, 장면별 입력·출력 토큰을 집계해 돈이 어디에 쓰이는지 먼저 파악합니다.
  2. 다음으로 모델 라우팅: 분류, 추출, 재작성은 소형 모델로 보내고 복잡한 추론에만 고급 모델을 쓰며 팀 습관이 아니라 작업 난이도로 배분합니다.
  3. 입력 줄이기: RAG는 관련 조각만 회수하고 이전 메시지는 요약하며 도구 반환은 필요한 필드만 남깁니다.
  4. 출력 제한: 합리적인 max_tokens를 설정하고 JSON 또는 고정 필드를 요구해 인사말과 반복 설명을 줄입니다.
  5. 캐시 활용: system prompt, 도구 정의, 지식 베이스 접두사를 고정하고 캐시가 실제로 적중하는지 검증합니다.
  6. 재시도 관리: 429와 시간 초과에는 지수 백오프와 무작위 지터를 쓰고 최대 재시도 횟수를 설정해 고정 간격 폭주를 피합니다.
  7. 예산과 경보: 프로젝트별 할당 상한을 설정하고 매주 소비 순위를 검토해 이상 증가를 조기에 찾습니다.

입력 관리와 캐시를 먼저 하고 더 저렴한 모델로 바꾸는 것은 나중에 고려하십시오. 그렇지 않으면 불안정한 출력을 더 저렴하게 만들 뿐 재작업 비용이 다시 돌아옵니다.

5. 예산과 청구서 관리 방법

  • 프로젝트마다 Key 하나를 두고 프로젝트별 예산 상한을 설정해 여러 서비스가 서로 할당량을 잠식하지 않게 합니다.
  • 로그에는 최소한 시간, 모델, 입력·출력 토큰, 상태 코드, 요청 ID를 기록하고 전체 Key와 민감 내용은 기록하지 않습니다.
  • 매월 "프로젝트, 모델, 장면" 세 차원으로 대조해 가장 빠르게 증가하는 호출을 찾습니다.
  • 캐시, 모델 라우팅, 출력 제한으로 절감한 금액을 별도로 기록해야 최적화 효과를 증명할 수 있습니다.
  • 위안화 결제와 인보이스가 필요한 팀은 국내 AI 게이트웨이로 청구서를 통합할 수 있습니다. 구체적인 가격, 환율, 인보이스 규칙은 모델 가격을 기준으로 합니다.

자주 묻는 질문

Grok API는 입력과 출력 두 항목만 과금하나요?

일반적인 청구서는 입력과 출력 토큰이 중심이지만 캐시 입력, 도구 호출, 검색 등의 기능은 별도 과금 기준이 있을 수 있습니다. 구체적인 포함 항목은 공식 과금 설명과 청구서 세부 내역을 기준으로 하십시오.

평균 토큰으로 추정하면 왜 부정확한가요?

평균값은 긴 꼬리 요청을 가립니다. 소수의 초장문 컨텍스트, 긴 출력, 재시도 요청이 비용 대부분을 차지할 수 있습니다. 실제 로그로 분포를 보는 것이 평균 하나에 호출량을 곱하는 것보다 신뢰할 수 있습니다.

캐시로 얼마나 절약되나요?

접두사 재사용률과 적중률에 달려 있습니다. 캐시 읽기는 보통 일반 입력 단가보다 낮지만 캐시 쓰기에 할증이 있을 수 있고, 접두사가 너무 짧거나 매번 바뀌면 적중하지 않습니다. 먼저 로그로 적중을 확인한 뒤 절감액을 평가하십시오.

출력이 길수록 더 비싼가요?

보통 그렇습니다. 출력 토큰은 별도로 과금되고 단가가 입력보다 높은 경우가 많습니다. 답변을 업무에 필요한 길이로 제한하고 구조화 출력을 적용하는 것이 모델 교체보다 빠르게 효과를 내는 경우가 많습니다.

국내 팀은 위안화로 어떻게 결제하나요?

위안화 충전과 인보이스를 제공하는 AI 게이트웨이를 통해 Grok을 호출하고 멀티 모델 청구서를 통합할 수 있습니다. 구체적인 사용 가능 모델, 가격, 인보이스 규칙은 모델 가격을 기준으로 하십시오.

다음 단계

먼저 ZSQH AI Gateway에서 테스트 Key를 만들고 실제 작업 묶음으로 입력·출력 토큰을 기록한 뒤 위 공식으로 예산을 세우십시오. 모델 가용성과 가격은 모델 가격을 기준으로 합니다.

관련 글: