중국에서 Gemini API를 호출할 때 어려운 것은 대개 코드가 아니라 경로입니다. 요청이 안정적으로 나갈 수 있는지, 지연이 감당 가능한지, 할당량이 충분한지, 문제가 생겼을 때 누가 처리하는지입니다. 많은 팀이 개인 프록시로 먼저 연결한 뒤 같은 설정을 운영 환경에 가져가고, 동시성·속도 제한·컴플라이언스에서 연달아 재작업을 합니다.

이 글은 흔한 방안을 직접 연결, 자체 프록시, 중국 내 AI 게이트웨이의 세 가지로 나누어 적용 범위, 할당량 처리, 출시 방법을 설명합니다. 결론을 먼저 말하면, 프로토타입 단계에서는 편한 방식을 쓰되 운영 환경에서는 "모니터링 가능, 폴백 가능, 컴플라이언스 설명 가능"을 기준으로 선택해야 합니다.

안내: Google, Gemini는 해당 권리자의 상표입니다. 이 글은 2026년 10월의 일반적인 네트워크와 인터페이스 상황을 예로 듭니다. 서비스 지역, 할당량, 약관은 공식 페이지를 기준으로 하며, 현지 법규와 플랫폼 이용 약관을 준수하십시오.

1. 세 가지 방안을 먼저 비교합니다

항목 공식 직접 연결 자체 프록시 중국 내 AI 게이트웨이
일반적 가용성 네트워크와 지역 영향이 큼 출구 품질에 따라 다름 서비스 제공자가 관리, 상태 페이지 확인 가능
지연 변동이 뚜렷함 최적화 가능하지만 홉이 하나 추가 대체로 안정적
운영 비용 낮지만 장애 추적이 어려움 높음, 서버와 출구 유지 필요 낮음, 인터페이스 사용
할당량 공식 속도와 지역 제한을 받음 공식 할당량을 바꾸지 못함 게이트웨이 측에서 배분·제한
과금 달러, 사용량 기반 청구 공식 비용에 서버 비용 추가 위안화, 선불
컴플라이언스 설명 국경 간 경로를 직접 설명해야 함 출구와 로그 책임을 직접 부담 중국 내 계약과 서비스 경계 있음
적합 시나리오 개인 검증, 민감도 낮은 작업 네트워크 팀이 있는 내부 시스템 고객 대상 운영 서비스

이 표는 결정을 대신하려는 것이 아니라, 프록시가 "연결 여부"만 해결하고 할당량·청구·컴플라이언스는 해결하지 못한다는 점을 상기시키기 위한 것입니다. 프록시를 장기 운영 방안으로 삼는 것은 불확실성을 경로 안에 남겨 두는 것과 같습니다.

2. 직접 연결: 네트워크 문제인지 권한 문제인지 먼저 확인합니다

직접 연결 실패는 흔히 세 가지 상황에서 발생합니다. 점검 순서를 바꾸지 마십시오.

  1. 지역 미지원: 공식 서비스가 제공되지 않는 지역에서는 요청이 타임아웃되거나 거부될 수 있으며, 키를 바꿔도 해결되지 않습니다.
  2. 네트워크 불통: DNS 해석, TLS 핸드셰이크, 출구 라우팅에서 문제가 생길 수 있습니다. curl -v로 어느 단계에서 멈추는지 확인하십시오.
  3. 인증 또는 프로젝트 오류: 401은 키 문제이고, 403은 대개 프로젝트, API 미활성화, 모델 권한 문제입니다.
export GEMINI_API_KEY="여기에-키"

curl -v "https://generativelanguage.googleapis.com/v1beta/models" \
  -H "x-goog-api-key: $GEMINI_API_KEY" \
  --max-time 15

연결 단계에서 타임아웃이 나면 이후 파라미터를 조정하는 것은 의미가 없습니다. 연결은 되지만 4xx가 반환되면 상태 코드에 따라 점검하십시오. 실패한 단계, 소요 시간, 상태 코드를 매번 기록해야 일시적 변동인지 구조적 불가용인지 판단할 수 있습니다.

3. 자체 프록시: 연결은 해결하지만 할당량은 해결하지 못합니다

자체 프록시의 전형적인 구조는 비즈니스 서버 → 해외 출구 → Gemini API입니다. 네트워크 운영 능력이 있고 데이터 민감도를 통제할 수 있는 팀에 적합하지만, 네 가지를 운영 매뉴얼에 적어야 합니다.

  • 출구 IP가 안정적인지, 대상 서비스가 비정상 트래픽으로 판정하지 않는지.
  • 프록시 계층이 요청 내용을 기록하는지, 로그를 얼마나 보관하며 누가 접근할 수 있는지.
  • 인증서, 도메인, 포트를 어떻게 관리하고 만료 시 어떻게 경보하는지.
  • 프록시 서버 자체의 대역폭, 동시성, 장애 전환.

프록시는 공식 할당량을 높여 주지 않습니다. 무료 또는 낮은 등급의 RPM·TPM 제한은 그대로이며, 피크 시간에는 마찬가지로 대기하게 됩니다. 더 흔한 문제는 모든 업무가 출구 하나를 공유해 스크립트 하나가 폭주하면 전체 경로가 무너지는 것입니다. 업무별로 출구와 속도 제한을 나누는 것이 필요합니다.

4. 게이트웨이 연동: 보통 세 곳만 수정합니다

중국 내 AI 게이트웨이는 일반적으로 OpenAI 호환 진입점을 제공하므로, 기존 코드는 Base URL, 키, 모델명만 바꾸면 됩니다.

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["ZSQH_API_KEY"],
    base_url="https://ai.zhongshangqihang.com/v1",
)

resp = client.chat.completions.create(
    model="<가격 페이지의 Gemini 모델명>",
    messages=[{"role": "user", "content": "OK만 답하세요"}],
    max_tokens=64,
)
print(resp.choices[0].message.content)
print(resp.usage)

모델명은 사이트 내 모델 가격 페이지를 기준으로 하며 예시를 그대로 복사하지 마십시오. 연동 후에는 최소 요청 하나를 실행하고, 이어서 실제 작업 묶음을 돌리며 세 가지를 중점적으로 보십시오. 첫 토큰 지연, 실패율, 반환 내용이 저하되었는지입니다. 게이트웨이는 서비스 경계이므로 선택 전에 상태 페이지, 지원 채널, 환불 규칙, 데이터 조항을 확인하십시오.

5. 할당량과 429: 재시도를 올바르게 작성합니다

Gemini의 할당량은 보통 모델, 프로젝트, 시간 창 단위로 계산하며, 일반적인 차원은 분당 요청 수, 분당 토큰 수, 일일 요청 수입니다. 제한이 걸리면 보통 429가 반환되며, 처리 방식이 장애 확대 여부를 결정합니다.

  1. 지수 백오프에 무작위 지터를 더해 모든 클라이언트가 같은 순간에 재시도하지 않게 합니다.
  2. 최대 재시도 횟수와 전체 타임아웃을 설정하고, 초과하면 폴백하며 무한 재전송하지 않습니다.
  3. 업무 우선순위대로 대기열을 만들고 대화형 요청을 오프라인 배치보다 우선합니다.
  4. 쓰기 작업에 멱등성을 확보해 재시도가 중복 부작용을 낳지 않게 합니다.
  5. 429의 시간 분포를 모니터링해 분 단위 제한인지 일일 할당량 소진인지 판단합니다.
  6. 대체 모델이나 대체 경로를 준비하고 주 경로 제한 시 자동 전환합니다.

일일 할당량이 소진된 경우 재시도는 의미가 없습니다. 등급을 낮추거나 비핵심 호출을 줄이거나 할당량을 조정해야 합니다. 동시성이 급증한 경우에는 먼저 제한하고 그다음 확장하십시오. 순서가 반대면 전체 경로가 더 느려질 뿐입니다.

6. 컴플라이언스와 데이터: 반드시 답해야 할 세 가지 질문

  1. 요청에 개인정보, 고객 계약, 코드, 재무 데이터가 포함되는가?
  2. 데이터가 어떤 노드를 거쳐 어느 지역에 저장되고 로그는 얼마나 보존되는가?
  3. 보안 사고 발생 시 누가 기록을 제공할 수 있고 얼마나 빨리 통보할 수 있는가?

국경 간 경로가 길수록 설명 비용이 높아집니다. 고객 대상 운영 시스템이라면 데이터를 분류·등급화하고 민감 필드를 먼저 비식별화하십시오. 로그를 보관해야 한다면 접근 권한과 삭제 절차를 명확히 하십시오. "API 하나 호출할 뿐"이라는 이유로 컴플라이언스 검토를 건너뛰지 마십시오.

7. 출시 절차

  1. 실제 작업으로 일주일간 부하 테스트를 하고 피크와 비피크를 모두 포괄합니다.
  2. 성공률, p50·p95 지연, 429 분포, 작업당 비용을 기록합니다.
  3. 할당량 상한과 업무 피크의 차이를 확인하고 여유를 둡니다.
  4. 오류율, 지연, 잔액, 속도 제한을 포괄하는 모니터링과 경보를 연결합니다.
  5. 주·대체 전환을 리허설하고 폴백 시 업무가 감당 가능한지 확인합니다.
  6. 계약, 계산서, 데이터 조항, 보안 설명을 보관합니다.
  7. 소량 트래픽으로 전환하고 일주일 관찰한 뒤 전체 전환합니다.

자주 묻는 질문

Gemini API는 중국에서 직접 호출할 수 있나요?

직접 연결 가능 여부는 공식 서비스 지역, 네트워크 출구, 계정 상태에 따라 다릅니다. 실제로는 타임아웃, 연결 재설정, 4xx가 나타날 수 있습니다. 한 번의 성공이나 실패로 결론 내리지 말고 일주일간의 실패율과 지연 분포로 판단하십시오.

프록시로 접속하면 안정적인가요?

프록시는 연결성을 개선하지만 안정성은 출구 품질, 동시성, 운영 수준에 달려 있습니다. 공식 할당량을 바꾸지 못하고 컴플라이언스·로그 문제도 자동으로 해결하지 않으므로, 운영에 쓰려면 완전한 모니터링과 폴백 방안이 필요합니다.

왜 항상 429가 반환되나요?

분 단위 속도 제한, 일일 할당량 소진, 동시성 급증일 수 있습니다. 먼저 응답 헤더와 사용량 페이지를 보고 제한 유형을 구분하십시오. 일일 할당량이 소진되면 재시도가 무효이므로 할당량을 조정하거나 비핵심 호출을 줄여야 합니다.

게이트웨이가 모델 능력을 바꾸나요?

게이트웨이는 주로 인증, 라우팅, 속도 제한, 과금을 수행하며 정상적으로는 모델 자체를 바꾸지 않습니다. 다만 경로별로 개방된 모델 범위, 파라미터 지원, 버전이 다를 수 있으므로 출시 전에 같은 작업 묶음으로 비교 테스트를 하십시오.

중국 내 접속에서 주의할 컴플라이언스 문제는 무엇인가요?

최소한 데이터가 국경을 넘는지, 개인정보가 포함되는지, 로그를 얼마나 보존하는지, 서비스 제공자가 계약과 보안 설명을 제공할 수 있는지 확인하십시오. 민감 데이터는 먼저 비식별화하고 회사 규정에 따라 검토를 완료하십시오.

다음 단계

프록시와 출구를 직접 운영하고 싶지 않다면 ZSQH AI 게이트웨이에서 Gemini 요청 하나를 먼저 통과시킨 뒤 프로젝트별로 키를 나누고 예산을 설정하십시오. 사용 가능한 모델과 가격은 모델 가격을 기준으로 합니다.

관련 글: