중국 내 팀이 OpenAI API를 연동할 때 선택지는 사실상 세 가지입니다. 공식 직접 연결, 자체 프록시, 국내 AI 게이트웨이입니다. 세 방식은 단순한 "좋고 나쁨"이 아니라 비용을 서로 다른 위치에 두는 선택입니다. 직접 연결은 네트워크와 결제에, 프록시는 운영에, 게이트웨이는 서비스 의존성과 약관 확인에 비용이 배분됩니다.

이 글은 네트워크 안정성, 결제와 인보이스, 규정 준수, 유지보수, 모델 범위, 장애 대응을 비교하고 실행 가능한 타임아웃, 재시도, 폴백 설정과 출시 체크리스트를 제시합니다. 이 글은 기술 비교일 뿐 법률 의견이 아닙니다. 구체적인 사용 가능성과 규정 준수 요구는 현지 법률, 감독 규정, 서비스 제공자의 약관을 기준으로 하세요.

안내: OpenAI, ChatGPT, GPT는 OpenAI의 상표입니다. 이 글은 2026년 10월의 일반적인 상황을 예로 들며, 가격과 모델 목록은 가격 페이지와 서비스 제공자 문서를 기준으로 합니다. 가격은 변경될 수 있습니다.

1. 세 가지 경로란 무엇인가

공식 직접 연결: OpenAI 공식 계정과 공식 인터페이스를 사용하며 네트워크, 결제, 과금이 모두 공식 체계 안에서 이뤄집니다. 팀이 공식 지원 지역과 결제 조건을 갖추고 있고 현지 법률과 플랫폼 약관이 허용해야 합니다.

자체 프록시: 팀이 해외 서버를 임대해 리버스 프록시나 포워딩 프로그램을 배포하고, 요청이 자체 서버를 거쳐 업스트림으로 전달되게 합니다. 프록시는 경로와 통합 출구를 해결하지만 계정, 키, 결제는 별도로 해결해야 합니다.

국내 AI 게이트웨이: 서비스 제공자가 OpenAI 호환 인터페이스 주소를 제공하고, 팀은 위안화로 충전하며 사이트 안에서 키를 관리합니다. 게이트웨이는 업스트림 연결, 포워딩, 일부 장애 처리를 담당하므로 팀은 보통 Base URL만 바꾸면 됩니다. ZSQH AI 게이트웨이가 이 범주에 속하며 가입은 가입 페이지에서 할 수 있습니다.

2. 표 하나로 차이 보기

기준 공식 직접 연결 자체 프록시 국내 AI 게이트웨이
네트워크 안정성 국경 간 회선에 의존, 변동 시 직접 조사 필요 서버 회선과 프록시 품질에 의존 제공자가 유지보수, 보통 중국 내 접속 가능
개통 장벽 공식 계정과 사용 가능한 결제 수단 필요 서버, 도메인, 인증서, 운영 인력 필요 가입만 하면 되며 장벽이 가장 낮음
결제와 인보이스 공식 지원 통화와 방식 서버 비용과 업스트림 비용을 따로 지불 위안화 충전, 인보이스는 제공자 규칙
규정 준수와 약관 공식 약관의 직접 적용 현지 법률과 업스트림 약관을 동시에 충족해야 함 제공자 자격과 데이터 요건 확인 필요
운영 비용 낮지만 네트워크 문제는 자체 해결 높음, 인증서·모니터링·업그레이드 인력 필요 낮음, 장애 분석은 제공자에 의존
모델 범위 OpenAI 자체 모델 업스트림 계정에 의존, 보통 단일 여러 모델을 집계하는 경우가 많음, 가격 페이지 기준
장애 대응 공식 지원 채널 직접 원인 파악과 복구 제공자가 업스트림 처리, 사용자는 요청 ID 보존
적합한 팀 결제와 네트워크 조건을 갖추고 OpenAI만 사용 운영 역량이 있고 통합 출구가 필요 중국 내 중소 팀, 멀티모델, 위안화 청구

이 표는 1차 선별에만 쓸 수 있습니다. 실제 경험을 좌우하는 것은 피크 시간대의 지연, 실패율, 장애 대응이므로 실제 업무 요청으로 1~2주 부하 테스트를 한 뒤 결정하세요.

3. 네트워크 안정성: 연결 가능 여부보다 흔들림을 보기

"열린다"와 "안정적으로 호출된다"는 다릅니다. 첫 바이트 시간, 총 소요 시간, 타임아웃 비율, 스트리밍 중단율을 봐야 합니다. 국경 간 회선은 저녁 피크에 지연과 패킷 손실이 늘기 쉬우며, 매번 실패하기보다 간헐적 타임아웃, 연결 재설정, 스트리밍 중단으로 나타납니다.

자체 프록시가 회선 문제를 자동으로 해결하지는 않습니다. 서버 지역, 귀환 경로, 속도 제한 여부가 모두 안정성에 영향을 줍니다. 국내 게이트웨이의 가치는 진입점이 중국 내에 있고 회선을 제공자가 유지보수한다는 점이지만, 지연은 여전히 실측으로 확인해야 합니다.

핑만 찍지 마세요. 실제 요청을 일정 시간 연속 실행해 성공률, P95 지연, 타임아웃 횟수를 기록하세요. 아래 명령으로 각 단계 소요 시간을 볼 수 있습니다.

curl -o /dev/null -sS \
  -w "dns=%{time_namelookup}s tcp=%{time_connect}s tls=%{time_appconnect}s ttfb=%{time_starttransfer}s total=%{time_total}s code=%{http_code}\n" \
  "$OPENAI_BASE_URL/models" \
  -H "Authorization: Bearer $OPENAI_API_KEY"

DNS가 느리면 이름 해석, TCP가 느리면 회선, TLS가 느리면 핸드셰이크와 인증서, 첫 바이트가 느리면 대개 업스트림 대기열을 봅니다. 아침, 낮, 저녁에 각각 한 세트씩 실행하면 단일 결과보다 참고 가치가 큽니다.

4. 결제, 인보이스, 예산

공식 직접 연결은 공식 지원 결제 수단이 필요하고 통화, 결제 주기, 인보이스 규칙이 모두 공식 체계 안에 있습니다. 자체 프록시도 결제를 우회하지 않습니다. 서버 비용과 업스트림 계정 비용을 모두 지불해야 하며 단지 두 건으로 나뉠 뿐입니다. 국내 게이트웨이는 보통 위안화 충전과 사이트 내 청구를 지원하고 인보이스는 제공자 규칙에 따라 발행되므로 현지 경비 처리가 필요한 팀에 적합합니다.

어느 경로든 예산 상한과 사용량 알림을 설정하세요. 가격은 변경되며 이 글은 구체적인 단가를 적지 않고 가격 페이지를 기준으로 합니다. 재무 측은 세 가지를 확인해야 합니다. 충전 금액에 대해 규정에 맞는 증빙을 발행할 수 있는지, 잔액을 환불할 수 있는지, 연체 시 서비스가 등급을 낮추는지 아니면 즉시 중단되는지입니다.

5. 규정 준수와 약관: 경계를 먼저 긋기

이 절은 판단 방법만 다루며 우회 수단을 제공하지 않습니다. 팀은 최소 네 가지를 확인해야 합니다.

  1. 사용 방식이 현지 법률과 감독 요구를 충족하는지
  2. OpenAI 및 업스트림 제공자의 약관을 준수하는지
  3. 데이터 국외 이전이 평가를 거쳤는지, 개인정보나 민감 데이터가 포함되는지
  4. 제공자가 실명 확인을 요구하는지, 데이터 처리 계약과 민원 채널이 있는지

규정 준수는 선택 표의 한 줄이 아니라 진입 장벽입니다. 하나라도 충족하지 못하면 가격이 낮아도 출시하면 안 됩니다. 판단이 어려우면 법무나 전문 기관에 문의하고 기술 수단으로 판단을 대체하지 마세요.

6. 유지보수 비용: 프록시는 설치로 끝나지 않음

자체 프록시는 배포가 시작일 뿐입니다. 이후 인증서 갱신, 프로그램 업그레이드, 로그와 디스크, 접근 제어, IP 변경, 속도 제한, 모니터링 경보를 처리해야 합니다. 키를 프록시에 두면 유출과 스캔도 방지해야 합니다. 당직 체계가 없는 팀은 장애가 주로 한밤중에 발생합니다.

게이트웨이는 이 계층을 제공자에게 넘기지만 팀은 세 가지 능력을 유지해야 합니다. 사용량 조회, 요청 ID 보존, 장애 시 대체 회선 전환입니다. 단일 진입점에 완전히 의존하면 가용성을 남에게 맡기는 것이고, 완전 자체 구축은 자기 인력에 맡기는 것입니다. 선택은 팀이 어떤 위험을 더 감수할지에 달려 있습니다.

7. 모델 범위와 장애 처리

OpenAI만 쓰는 팀에게 모델 범위는 문제가 아닙니다. 여러 모델을 함께 쓰는 팀은 게이트웨이의 장점이 더 분명합니다. 하나의 Base URL, 한 세트의 키, 한 장의 청구서로 정리됩니다. 다만 "호환"은 보통 요청 형식 호환이며, 모델마다 파라미터, 도구 호출, 스트리밍 형식 지원이 일치하지 않으므로 전환 전에 항목별로 검증해야 합니다.

장애 처리에서 직접 연결과 프록시는 팀이 직접 조사하고, 게이트웨이는 제공자가 업스트림을 찾습니다. 어느 경우든 사용자 측은 상태 코드, 응답 본문, 요청 ID를 보존해야 합니다. 5xx를 무한 재시도하지 말고 최대 횟수와 총 타임아웃을 설정하세요. 스트리밍 중단 시에는 부분 출력과 과금이 이미 발생했는지 먼저 판단합니다.

8. 타임아웃, 재시도, 폴백 설정

아래는 실행 가능한 Python 설정입니다. 주 회선이 실패하면 조건에 따라 재시도하고 대체 주소로 전환합니다. 모델 이름은 환경 변수에서 읽어 하드코딩을 피합니다.

import os
import random
import time
from openai import OpenAI

PRIMARY = OpenAI(
    api_key=os.environ["PRIMARY_API_KEY"],
    base_url=os.environ["PRIMARY_BASE_URL"],
    timeout=45.0,
    max_retries=0,
)
FALLBACK = OpenAI(
    api_key=os.environ["FALLBACK_API_KEY"],
    base_url=os.environ["FALLBACK_BASE_URL"],
    timeout=45.0,
    max_retries=0,
)
RETRYABLE = {408, 409, 429, 500, 502, 503, 504}

def call(prompt: str) -> str:
    clients = [PRIMARY, FALLBACK]
    last_error = None
    for client in clients:
        for attempt in range(3):
            try:
                resp = client.responses.create(
                    model=os.environ["OPENAI_MODEL"],
                    input=prompt,
                )
                return resp.output_text
            except Exception as exc:
                last_error = exc
                status = getattr(exc, "status_code", None)
                if status not in RETRYABLE:
                    break
                wait = min(2 ** attempt, 8) + random.random()
                time.sleep(wait)
    raise RuntimeError("주 회선과 대체 회선 모두 실패") from last_error

요점: 타임아웃은 업무가 허용하는 대기 시간보다 짧아야 하고, 재시도 가능한 오류에만 백오프를 적용하며, 대체 회선은 미리 설정하고 정기적으로 연습해야 합니다. 재시도 횟수를 너무 크게 잡으면 장애 시 요청이 눈덩이처럼 쌓입니다.

9. 출시 체크리스트

순서대로 확인하고 모두 통과한 뒤 트래픽을 늘리세요.

  1. 회선 실측을 통과하고 아침·낮·저녁의 성공률과 P95 지연을 기록했다.
  2. 결제 수단이 사용 가능하고 예산 알림과 잔액 경보를 설정했다.
  3. 키를 환경별로 분리해 서버 측 비밀 관리에 저장했다.
  4. Base URL에는 /v1이 하나만 있고 모델 이름은 가격 페이지에서 복사했다.
  5. 타임아웃, 재시도, 폴백을 설정하고 장애 연습을 했다.
  6. 로그에 요청 ID, 모델, 소요 시간, 상태 코드가 있고 전체 키는 없다.
  7. 규정 준수와 데이터 처리 요건을 확인했고 필요하면 내부 승인을 마쳤다.
  8. 대체 회선이 사용 가능하고 전환 절차가 문서화되어 담당자가 있다.

10. 자주 묻는 질문

중국 내 팀의 직접 연결은 반드시 불안정한가요?

아닙니다. 회선 품질은 지역, 통신사, 시간대에 따라 크게 다르므로 자체 업무 요청으로 실측해야 합니다. 안정성은 확률 문제입니다.

자체 프록시는 업스트림 계정도 직접 관리해야 하나요?

그렇습니다. 프록시는 포워딩과 통합 출구만 해결하며 업스트림 계정, 키, 결제, 약관 준수는 별도로 처리해야 합니다. 사용 가능한 할당량이 자동으로 생기지 않습니다.

게이트웨이와 프록시 중 어느 쪽이 더 편한가요?

보통 게이트웨이가 더 편합니다. 서버, 인증서, 업그레이드, 일부 업스트림 장애를 제공자가 담당합니다. 대신 제공자에 의존하므로 대체 회선과 사용량 내보내기 능력을 유지해야 합니다.

게이트웨이로 바꾸면 코드를 많이 고쳐야 하나요?

대부분의 호환 게이트웨이는 Base URL과 키만 바꾸면 되고 모델 이름은 가격 페이지에 맞춰 교체합니다. 비표준 파라미터나 사설 인터페이스 부분은 항목별 회귀 테스트가 필요합니다.

장애가 나면 가장 먼저 무엇을 보나요?

상태 코드와 응답 본문, 다음으로 요청 ID를 보고, 마지막으로 로컬 네트워크, 진입 서비스, 업스트림 중 어디인지 구분합니다. 요청 ID가 없으면 소통과 원인 파악이 모두 느려집니다.

다음 단계

세 경로에 절대적 우열은 없습니다. 결제, 규정 준수, 장애 처리를 먼저 정리한 뒤 실제 트래픽으로 검증하세요. 위안화 충전과 통합 멀티모델 진입점이 필요하다면 ZSQH AI 게이트웨이 가입에서 시작할 수 있고, 가격과 모델은 가격 페이지를 기준으로 합니다.

관련 글: