중국 내 팀이 DeepSeek API를 논할 때 문제는 흔히 "연결이 되는가"로 단순화됩니다. 하지만 생산 환경에 실제로 영향을 주는 것은 네 가지입니다. 네트워크가 안정적인지, 결제와 인보이스가 원활한지, 피크 시간의 속도 제한을 감당할 수 있는지, 장애가 발생했을 때 대체 경로가 있는지입니다. 이 중 하나라도 성립하지 않으면 단순한 "연결 가능"은 의미가 없습니다.
이 글은 공식 직접 연결, 자체 프록시, 중국 내 AI 게이트웨이의 세 가지 경로를 비교하고 타임아웃, 재시도, 폴백, 검증 방법을 제시합니다. 구체적인 모델, 가격, 연동 방식은 모델 가격과 사이트 안내를 기준으로 합니다.
안내: DeepSeek는 해당 권리자의 상표입니다. 이 글은 2026년 10월의 일반적인 상황을 예로 들며 네트워크 환경과 서비스 약관은 달라질 수 있으므로 공식 문서와 현지 법규를 기준으로 하십시오.
1. 세 가지 경로를 한 표로
| 항목 | 공식 직접 연결 | 자체 프록시 | 중국 내 AI 게이트웨이 |
|---|---|---|---|
| 진입점 | DeepSeek 공식 주소 | 자체 서버 포워딩 | 통합 OpenAI 호환 진입점 |
| 결제 | 공식 지원 채널 | 서버와 대역폭 선결제 | 사이트 내 충전, 규칙은 페이지 기준 |
| 모델 범위 | DeepSeek만 | 프록시 설정에 따름 | 여러 모델 연결 가능, 개통 상황에 따름 |
| 안정성 책임 | 공식 및 로컬 네트워크 | 전부 자체 부담 | 서비스 제공자와 로컬 공동 부담 |
| 운영 비용 | 낮음 | 높음 | 중간 |
| 적합한 팀 | 단일 모델, 저빈도, 안정적 네트워크 | 네트워크 운영 역량 보유 | 멀티모델, 인보이스, 통합 청구 필요 |
모든 팀에 맞는 경로는 없습니다. 판단 순서는 먼저 업무가 중단을 허용하는지 보고, 다음으로 멀티모델과 인보이스가 필요한지 보고, 마지막으로 팀에 운영 인력이 있는지 확인하는 것입니다.
2. 공식 직접 연결: 언제 충분한가
공식 직접 연결은 DeepSeek만 호출하고, 호출량이 안정적이며, 로컬 네트워크 접속이 정상이고, 공식 충전을 완료할 수 있으며, 피크 시간의 속도 저하를 업무가 감당할 수 있는 경우에 적합합니다. 연동 단계는 복잡하지 않습니다.
- DeepSeek 오픈 플랫폼에서 API Key를 만들고 프로젝트별로 이름을 붙입니다.
- Key를 서버 환경 변수에 넣고 프런트엔드나 저장소에 기록하지 않습니다.
- curl로 최소 요청을 실행해 Base URL과 모델 이름을 확인합니다.
- SDK에 연결 타임아웃, 읽기 타임아웃, 재시도 상한을 설정합니다.
- 요청마다 모델, Token, 소요 시간, 오류 유형을 기록합니다.
export DEEPSEEK_API_KEY="sk-여기에_키"
curl "https://api.deepseek.com/chat/completions" \
-H "Authorization: Bearer $DEEPSEEK_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "deepseek-chat",
"messages": [{"role": "user", "content": "OK라고만 답하세요"}],
"max_tokens": 16
}'
이 명령이 간헐적으로 타임아웃되지만 네트워크를 바꾸면 정상이라면, 문제는 대개 Key가 아니라 로컬 출구나 DNS에 있습니다. 먼저 요청 시간과 오류 정보를 보관한 뒤 회선을 바꿀지 판단하십시오.
3. 자체 프록시: 출구는 해결하지만 용량은 해결하지 못한다
자체 프록시의 흔한 방식은 공식 인터페이스에 접근할 수 있는 서버에 리버스 프록시를 두고 요청을 DeepSeek로 전달하는 것입니다. "로컬 네트워크 접속 불안정" 문제의 일부는 해결되지만 새로운 작업이 생깁니다.
- 프록시 서버 자체가 단일 장애점이므로 다운되면 모든 요청이 함께 실패합니다.
- TLS, 인증, 접근 제어를 처리해 프록시가 남용되지 않도록 해야 합니다.
- 로그, 속도 제한, 모니터링이 없으면 문제가 생겼을 때 원인을 찾을 수 없습니다.
- 포워딩 계층이 하나 늘어 지연이 증가하고 스트리밍 출력의 첫 Token 시간이 길어질 수 있습니다.
- 네트워크와 컴플라이언스 책임은 여전히 팀에 있습니다.
팀에 프록시를 지속적으로 유지할 인력이 없다면 자체 프록시는 "임시 방안"에서 "장기 부채"가 되기 쉽습니다. 과도기로는 쓸 수 있지만 유일한 진입점으로 두는 것은 권장하지 않습니다.
4. AI 게이트웨이: 멀티모델과 불안정성을 하나의 진입점으로
중국 내 AI 게이트웨이의 가치는 단순한 "중계"가 아니라 Key 관리, 충전, 청구, 모델 전환, 장애 처리를 한곳에 모으는 데 있습니다. 여러 모델을 쓰는 팀에서 가장 직접적인 변화는 업무 코드가 하나의 OpenAI 호환 진입점만 바라보고, 모델을 바꿀 때 코드가 아니라 설정을 바꾸면 된다는 점입니다.
export ZSQH_API_KEY="sk-여기에_키"
curl "https://ai.zhongshangqihang.com/v1/chat/completions" \
-H "Authorization: Bearer $ZSQH_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "deepseek-chat",
"messages": [{"role": "user", "content": "게이트웨이의 역할을 한 문장으로 설명하세요"}],
"max_tokens": 128
}'
게이트웨이를 고를 때는 다섯 가지를 확인하십시오. 사용할 모델을 지원하는지, 과금과 충전 규칙이 명확한지, 사용량 상세를 제공하는지, 장애 시 어떻게 알리는지, 데이터 약관이 자체 컴플라이언스 요구를 충족하는지입니다. "호출이 되는지"만 보지 마십시오.
5. 안정성은 직접 챙겨야 한다: 타임아웃, 재시도, 폴백
어느 경로를 택하든 클라이언트에는 보호 장치가 있어야 합니다. 다음 순서로 설정하는 것을 권장합니다.
- 연결 타임아웃과 읽기 타임아웃을 분리합니다. 연결은 짧게, 읽기는 길게 설정하고 긴 문서와 추론 작업은 별도로 구성합니다.
- 재시도에는 백오프를 적용합니다. 429, 5xx, 타임아웃만 재시도하고 지수 백오프에 무작위 지터를 더하며 최대 횟수를 정합니다.
- 동시성을 제어합니다. 배치 작업은 큐로 피크를 깎고 정시에 한꺼번에 몰리지 않게 합니다.
- 폴백 모델을 준비합니다. 핵심 업무는 대체 모델이나 대체 경로로 전환할 수 있어야 하지만 출력 차이는 감수해야 합니다.
- 서킷 브레이커를 추가합니다. 연속 실패가 임계값에 도달하면 요청을 잠시 멈춰 재시도 폭풍을 막습니다.
- 멱등성을 확보합니다. 부작용이 있는 업무는 상태를 먼저 확인한 뒤 다시 보내고 무작정 재시도하지 않습니다.
import httpx
from openai import OpenAI
client = OpenAI(
api_key="sk-여기에_키",
base_url="https://ai.zhongshangqihang.com/v1",
timeout=httpx.Timeout(connect=5.0, read=120.0, write=30.0, pool=10.0),
max_retries=2,
)
타임아웃 값에 정답은 없으며 업무 허용도와 작업 길이에 맞춰 조정해야 합니다. 핵심은 요청이 무한정 기다리지 않게 하고, 실패 후 즉시 동시에 다시 보내지 않는 것입니다.
6. 일주일 동안 한 경로를 검증하기
| 지표 | 기록 방식 | 확인할 점 |
|---|---|---|
| 성공률 | 비200 응답 비율 집계 | 피크 시간대에 집중되는지 |
| 지연 | p50, p95, 첫 Token 시간 기록 | 꼬리 지연이 사용자 경험을 해치는지 |
| 속도 제한 | 429 횟수와 발생 시간 집계 | 할당량 문제인지 트래픽 급증인지 |
| 네트워크 오류 | DNS, TLS, 연결 타임아웃 기록 | 로컬 출구 문제인지 |
| 품질 | 고정 작업 세트로 수동 표본 검사 | 경로 변경 후 출력이 일관적인지 |
검증할 때는 최소한 평일 피크와 야간 비피크를 모두 포함하십시오. 매일 같은 시간에 같은 요청 묶음을 실행하며 7일 연속 기록하는 편이 한 번의 부하 테스트보다 참고 가치가 큽니다.
7. 결제, 인보이스와 컴플라이언스
- 기업 계좌 결제와 인보이스가 필요한 팀은 서비스 제공자의 발행 규칙과 입금 소요 시간을 미리 확인합니다.
- 고객 데이터가 관련되면 데이터 약관을 먼저 읽고 입력 내용이 보관되거나 서비스 개선에 사용되는지 확인합니다.
- Key는 환경별로 분리하고 운영 Key를 프런트엔드나 공개 저장소에 넣지 않습니다.
- 호출 로그와 청구서를 보관해 재무 대사와 보안 감사에 대비합니다.
- 국경 간 전송과 업종 규제 요건은 현지 법규와 회사 컴플라이언스 절차에 따라 확인합니다.
자주 묻는 질문
중국 내에서 DeepSeek 직접 연결은 안정적인가요?
로컬 네트워크, 시간대, 공식 부하에 따라 달라 일반적인 답은 없습니다. 운영 환경에서는 단일 경로에 의존하지 말고 최소한 타임아웃, 재시도, 대체 경로를 준비하십시오.
게이트웨이를 쓰면 더 느려지나요?
포워딩 계층이 하나 늘어 지연이 조금 증가할 수 있지만 게이트웨이는 대개 더 안정적인 진입점과 장애 전환을 제공합니다. 같은 요청 묶음을 직접 연결과 게이트웨이에 각각 보내 p95와 성공률을 비교하고, 한 번의 요청만 보지 마십시오.
자체 프록시는 모든 팀에 적합한가요?
아닙니다. 지속적인 네트워크 운영, 보안 설정, 모니터링이 필요합니다. 전담 인력이 없으면 프록시 자체가 새로운 장애 지점이 됩니다.
Key 하나로 여러 모델을 호출할 수 있나요?
게이트웨이 모드에서는 대개 가능하며 모델은 요청에서 지정합니다. 구체적인 범위는 사이트 가격 페이지와 콘솔을 기준으로 합니다. 공식 직접 연결 Key는 공식이 개방한 모델만 호출할 수 있습니다.
문제가 로컬에 있는지 업스트림에 있는지 어떻게 판단하나요?
먼저 최소 요청으로 테스트한 뒤 네트워크, Key, 진입점을 각각 바꿔 검증합니다. 요청 시간과 오류 정보를 보관하면 DNS, TLS, 인증, 속도 제한, 업스트림 장애를 빠르게 구분할 수 있습니다.
다음 단계
먼저 ZSQH AI Gateway에서 테스트 Key를 만들고 같은 요청 묶음으로 직접 연결과 게이트웨이의 성공률과 지연을 비교한 뒤 운영 경로를 결정하십시오. 모델과 가격은 모델 가격을 기준으로 합니다.
관련 읽을거리:
