기업이 Gemini API를 구매할 때 "백만 토큰당 얼마인가"로 단순화하기 쉽습니다. 하지만 프로젝트의 출시 가능 여부를 실제로 좌우하는 것은 할당량, 속도, 데이터 약관, 계정과 키 관리, 청구 대사, 그리고 주 경로에 장애가 생겼을 때 백업이 있는지입니다.

이 글은 구매와 출시 순서에 따라 점검 목록을 제공합니다. 구체적인 모델과 가격은 사이트 내 모델 가격 페이지와 Google 문서를 기준으로 하며, 이 글은 단가를 고정해 적지 않고 어느 당사자의 법적 결론도 대신하지 않습니다.

안내: Google과 Gemini는 Google LLC의 상표입니다. Google AI Studio와 Vertex AI는 약관, 지역, 할당량 규칙이 다를 수 있으므로 최종적으로는 체결한 계약, 공식 약관, 실제 콘솔 설정을 기준으로 합니다. ZSQH AI 게이트웨이는 독립적인 제3자 API 게이트웨이이며 이 글은 연동과 구매 방법만 논의합니다.

1. 할당량보다 워크로드를 먼저 계산하기

구매 전에 네 가지 질문에 답해야 합니다. 그렇지 않으면 할당량은 감으로 정할 수밖에 없습니다.

  1. 하루에 요청이 몇 건이며 피크는 베이징 시간 몇 시에 몰리나요?
  2. 평균 입력과 출력은 각각 몇 토큰이고, 가장 긴 5%는 얼마나 되나요?
  3. 이미지, 오디오, 영상, PDF가 차지하는 비율과 단일 자료의 크기는 얼마인가요?
  4. 재시도율, 실패율, 이전 메시지 재전송으로 추가 요청이 얼마나 발생하나요?

최근 1주일 로그를 모델, 작업 유형, 입력 길이로 나누어 일일 요청량, 일일 토큰량, 피크 동시성을 계산하고 30을 곱해 월간 기준선을 구한 뒤 재시도 여유 20%~30%를 더합니다. 로그가 없는 신규 프로젝트는 작은 트래픽으로 일주일 실행해 보세요. "사용자 수 × 횟수"로 억지 추정하지 마세요.

2. 할당량, 속도, 청구

AI Studio 무료 등급은 검증에 적합하지만 속도와 할당량이 더 빡빡하고 데이터 약관도 다를 수 있습니다. 운영 환경은 유료 등급으로 계획하고 다음 항목을 구매서에 적으세요.

  • 결제 주체가 해외 계정인지 중국 내 법인인지, 통화와 환율은 어떻게 처리하는지.
  • 선불인지 후불인지, 잔액 경고와 자동 충전을 어떻게 설정하는지.
  • 할당량을 프로젝트 단위로 나누는지 팀 단위로 나누는지, 임시 증액을 누가 신청할 수 있는지.
  • 429 발생 시 재시도, 대기열, 폴백 전략.
  • 인보이스 유형, 발행 주기, 대사에 필요한 필드.

공식 직접 연결은 보통 달러로 결제하며 해외 결제 절차가 있는 팀에 적합합니다. 위안화 인보이스와 통합 멀티모델 청구가 필요한 팀은 국내 게이트웨이를 평가할 수 있습니다. 두 경로의 비용 구조가 다르므로 표시 가격만 비교하면 안 됩니다.

3. 데이터와 규정 준수: 계약 전에 질문하기

규정 준수 경계는 어느 진입점을 쓰고 어떤 기능을 켜며 데이터를 어느 지역에 두는지에 따라 달라집니다. 구매 시 서면 질문 목록을 만들어 법무, 보안, 업무 검토에 넘기세요.

  1. 입력과 출력이 모델 훈련에 사용되는지, 기업 약관에 다른 규정이 있는지?
  2. 데이터를 얼마나 보관하며 삭제 요청은 어떻게 하고 언제 효력이 생기는지?
  3. 데이터가 어느 지역에 저장되고 회사나 고객의 데이터 상주 요구를 충족할 수 있는지?
  4. 데이터 처리 계약을 체결할 수 있는지, 책임 경계와 배상 상한은 어떻게 쓰는지?
  5. 하위 처리자는 누구이며 변경 시 사전 통지가 있는지?
  6. 로그, 캐시, 파일 업로드가 기본 활성화인지, 끄거나 보존 기간을 줄일 수 있는지?

구두 답변을 받아들이지 마세요. 개인정보 처리방침, 데이터 처리 계약, 보안 설명, 하위 처리자 목록을 보관해 검수 자료로 쓰세요. 개인정보나 국경 간 데이터가 관련되면 먼저 비식별화하고 법무가 경로를 확인하게 하세요.

4. 계정, 권한, 키 관리

기업 계정에서 가장 두려운 것은 "키 하나로 전사가 사용"하는 상황입니다. 다음 순서로 적용하세요.

  1. 기업 도메인 이메일로 가입하고 조직을 회사 법인에 연결하며 개인 계정으로 업무를 받지 않습니다.
  2. 운영, 테스트, 개발별로 Cloud 프로젝트나 워크스페이스를 분리해 청구와 할당량을 각각 집계합니다.
  3. 관리자 권한은 소수에게만 주고 이중 인증을 켜며 분기마다 멤버를 재검토합니다.
  4. 업무 호출은 서비스 계정이나 별도 키를 쓰고 관리자 자격 증명을 쓰지 않습니다.
  5. 키마다 담당자, 용도, 환경, 생성 시간을 표시하고 퇴사 시 즉시 폐기합니다.
  6. 감사 로그와 사용량 경고를 켜고 이상 호출 시 키를 먼저 중지한 뒤 원인을 찾습니다.

키는 서버 측 환경 변수나 비밀 관리 서비스에만 두고 프런트엔드, 저장소, 티켓 스크린샷에 넣지 마세요. 데모에는 별도의 낮은 할당량 키를 쓰고 끝나면 삭제합니다.

5. 비용 관리: 공급자 교체보다 구조 개선

Gemini의 비용은 모델 등급, 입력·출력 길이, 멀티모달 자료, 재시도가 함께 결정합니다. 순서는 입력 정리, 계층형 라우팅, 마지막으로 단가 비교여야 합니다.

  • 시스템 프롬프트와 긴 문서 접두사를 고정하고 컨텍스트 캐시로 반복 입력을 줄입니다.
  • 분류, 추출, 재작성 같은 작업은 경량 등급으로 보내고 복잡한 추론만 상위 등급을 씁니다.
  • maxOutputTokens를 설정하고 JSON이나 고정 필드를 요구해 장문 생성을 막습니다.
  • 이미지는 해상도를 낮추고 영상은 프레임 추출 빈도를 줄이며 PDF는 관련 페이지만 보냅니다.
  • 오프라인 작업은 배치 처리로 보내 대기열을 감수하고 더 낮은 비용을 얻습니다.
  • 재시도에 상한과 백오프를 두고 429 기간에 요청량을 늘리지 않습니다.
  • 프로젝트, 팀, 작업 세 기준으로 사용량을 기록해 내부 비용 배분을 합니다.

게이트웨이에 연동하면 OpenAI SDK로 요청을 통일하고 응답에서 사용량을 확인할 수 있습니다.

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["ZSQH_API_KEY"],
    base_url="https://ai.zhongshangqihang.com/v1",
)

resp = client.chat.completions.create(
    model="<가격 페이지의 Gemini 모델명>",
    messages=[{"role": "user", "content": "OK라고만 답하세요"}],
    max_tokens=64,
)

print(resp.usage)

모델 이름은 모델 가격 페이지를 기준으로 하고 오래된 문서의 이름을 쓰지 마세요. 새 작업을 출시하기 전에 실제 샘플로 "합격 작업 하나를 완료하는 비용"을 측정하고 요청 한 건의 가격만 보지 마세요.

6. 대체 공급자와 폴백 계획

기업 구매는 주 경로가 흔들릴 것을 전제로 최소 세 계층을 준비해야 합니다. 같은 공급자의 대체 모델, 다른 공급자의 모델, 업무 측 폴백 안내 문구나 캐시 결과입니다.

모델 호출을 통합 인터페이스로 추상화하고 타임아웃, 재시도, 회로 차단, 전환 스위치를 설정하세요. 전환은 1분 안에 끝나야 하고 업무 코드를 바꾸지 않아야 합니다. 분기마다 한 번씩 연습해 대체 경로의 키, 할당량, 모델 이름이 유효한지 확인하고 계약서에 서비스 등급과 종료 절차를 명시하세요.

7. 파일럿과 검수: 4주 평가 계획

4주간 소규모 파일럿을 권장하며 한 번에 전면 이전하지 마세요.

단계 R A C I 산출물
요구 사항과 할당량 산정 업무 책임자 부서 책임자 재무, 기술 구매 사용량 기준표
데이터와 규정 준수 검토 보안 규정 준수 법무 기술, 구매 경영진 위험 목록과 결론
계정과 권한 설정 플랫폼 관리자 기술 책임자 보안 업무 프로젝트와 키 목록
기술 연동과 부하 테스트 개발 책임자 기술 책임자 운영 업무 연동 보고서와 부하 테스트 기록
비용 모니터링과 대사 재무 재무 책임자 기술, 구매 경영진 주간 비용 보고서
계약과 결제 구매 재무 책임자 법무 업무 계약서, 인보이스, 입금 확인서
출시 검수 업무 책임자 부서 책임자 기술, 보안 경영진 검수 서명서

1주 차에는 인터페이스와 권한을 실행하고, 2주 차에는 실제 샘플로 품질을 비교하며, 3주 차에는 피크 부하 테스트와 장애 연습을 하고, 4주 차에는 비용을 집계해 검수를 제출합니다. 지표에는 작업 정확도, P95 지연, 오류율과 재시도율, 작업당 비용, 키와 권한 점검이 포함되며 구체적인 임계값은 팀이 업무에 맞게 정합니다.

8. 계약서에서 물어야 할 질문

  1. 서비스 등급은 어떻게 정의하고 통계 기준과 보상 방식은 무엇인가요?
  2. 가격 조정은 얼마나 미리 통지하며 이미 구매한 할당량은 영향을 받나요?
  3. 할당량 증액 신청 절차와 응답 시간은 얼마인가요?
  4. 데이터 처리 계약, 지역 제한, 삭제 절차를 계약서에 넣을 수 있나요?
  5. 인보이스 유형, 통화, 결제 주기, 환불 규칙은 무엇인가요?
  6. 지원 채널, 응답 시간, 에스컬레이션 경로는 무엇인가요?
  7. 협력 종료 후 데이터를 어떻게 내보내고 삭제하나요?
  8. 하위 처리자 변경과 보안 사고는 어떻게 통지하나요?

자주 묻는 질문

Gemini API 기업 구매에는 반드시 Vertex AI를 써야 하나요?

아닙니다. 데이터 지역, IAM, 감사, 계약 주체 요구가 높은 팀에는 Vertex AI가 더 적합하고, 빠른 검증과 소규모 업무는 AI Studio로 시작할 수 있습니다. 약관과 할당량이 업무를 충족하는지 먼저 확인한 뒤 진입점을 정하세요.

무료 할당량을 운영에 쓸 수 있나요?

권장하지 않습니다. 무료 등급의 속도, 할당량, 데이터 약관은 보통 유료 등급과 다르고 갑작스러운 속도 제한이 사용자 경험을 해칩니다. 운영 환경은 유료 등급으로 계획하고 무료 등급은 프로토타입과 내부 테스트에만 쓰세요.

Gemini API 데이터가 훈련에 사용되나요?

제품, 약관, 설정에 따라 답이 다를 수 있습니다. 데이터 처리 계약과 공식 약관을 기준으로 하며 민감 데이터가 관련되면 먼저 비식별화하고 법무가 보존 및 훈련 조항을 확인하게 하세요.

할당량이 부족하거나 429가 자주 나오면 어떻게 하나요?

속도 제한인지 총 할당량 제한인지 먼저 보고 재시도, 동시성, 요청 길이를 최적화합니다. 업무 성장 때문인지 확인한 뒤 증액을 신청하거나 대체 경로를 추가하세요. 무작정 재전송하면 상황이 더 나빠집니다.

구매 후 비용이 통제 가능하다는 것을 어떻게 증명하나요?

출시 전에 사용량 기준선을 만들고 출시 후 프로젝트별 주간 보고서로 작업당 비용, 캐시 적중, 재시도율, 등급 비중을 추적합니다. 4주 연속 예산 안에 있고 품질 기준을 충족해야 통제 가능하다고 볼 수 있습니다.

다음 단계

실제 작업으로 ZSQH AI 게이트웨이에서 테스트 키를 만들어 모델, 지연, 위안화 청구를 검증한 뒤 환경별로 정식 키를 분리하세요. 가격은 모델 가격 페이지를 기준으로 하며 구매 전에 이 목록을 재무, 법무, 기술이 각각 검토하게 하세요.

관련 글: