Các đội trong nước khi tích hợp OpenAI API về cơ bản có ba lựa chọn: kết nối trực tiếp chính thức, tự dựng proxy, hoặc dùng cổng AI trong nước. Ba hướng này không đơn giản là “tốt hay xấu”, mà đặt chi phí ở những vị trí khác nhau: kết nối trực tiếp đặt vào mạng và thanh toán, proxy đặt vào vận hành, cổng đặt vào phụ thuộc dịch vụ và rà soát điều khoản.
Bài viết so sánh độ ổn định mạng, thanh toán và hóa đơn, tuân thủ, bảo trì, độ phủ mô hình và xử lý sự cố; đồng thời đưa ra cấu hình thời gian chờ, thử lại, dự phòng và danh sách kiểm tra trước khi lên tuyến. Bài chỉ so sánh kỹ thuật, không phải ý kiến pháp lý; khả dụng và yêu cầu tuân thủ cụ thể căn cứ theo luật địa phương, quy định quản lý và điều khoản của bên cung cấp.
Lưu ý: OpenAI, ChatGPT và GPT là nhãn hiệu của OpenAI. Bài viết lấy tình hình phổ biến tháng 10 năm 2026 làm ví dụ; giá và danh sách mô hình căn cứ theo trang giá và tài liệu của bên cung cấp, giá có thể điều chỉnh.
1. Ba hướng đi là gì
Kết nối trực tiếp chính thức: dùng tài khoản và giao diện chính thức của OpenAI; mạng, thanh toán, tính phí đều nằm trong hệ thống chính thức. Điều kiện tiên quyết là đội đáp ứng điều kiện đăng ký và thanh toán mà OpenAI hỗ trợ, đồng thời luật địa phương và điều khoản nền tảng cho phép.
Tự dựng proxy: đội thuê máy chủ ở nước ngoài, triển khai reverse proxy hoặc chương trình chuyển tiếp; yêu cầu đi qua máy chủ của mình trước rồi mới tới thượng nguồn. Proxy giải quyết đường truyền và đầu ra thống nhất, nhưng tài khoản, khóa và thanh toán vẫn phải xử lý riêng.
Cổng AI trong nước: bên cung cấp đưa ra địa chỉ giao diện tương thích OpenAI; đội nạp bằng nhân dân tệ và quản lý khóa trên site. Cổng chịu trách nhiệm kết nối thượng nguồn, chuyển tiếp và một phần xử lý sự cố; phía đội thường chỉ cần đổi Base URL. ZSQH AI Gateway thuộc nhóm này, điểm đăng ký là trang đăng ký.
2. Một bảng nhìn rõ khác biệt
| Khía cạnh | Kết nối trực tiếp | Tự dựng proxy | Cổng AI trong nước |
|---|---|---|---|
| Độ ổn định mạng | Phụ thuộc đường truyền xuyên biên giới, dao động phải tự kiểm tra | Phụ thuộc tuyến máy chủ và chất lượng proxy | Bên cung cấp bảo trì, thường truy cập được trong nước |
| Ngưỡng mở | Cần tài khoản chính thức và phương thức thanh toán khả dụng | Cần máy chủ, tên miền, chứng chỉ và vận hành | Chỉ cần đăng ký, ngưỡng thấp |
| Thanh toán và hóa đơn | Theo loại tiền và phương thức chính thức hỗ trợ | Phí máy chủ và phí thượng nguồn trả riêng | Nạp nhân dân tệ, hóa đơn theo quy định bên cung cấp |
| Tuân thủ và điều khoản | Chịu ràng buộc trực tiếp của điều khoản chính thức | Phải đáp ứng đồng thời luật địa phương và điều khoản thượng nguồn | Cần rà soát tư cách và yêu cầu dữ liệu của bên cung cấp |
| Chi phí vận hành | Thấp, nhưng sự cố mạng phải tự xử lý | Cao, chứng chỉ, giám sát, nâng cấp đều cần người | Thấp, xử lý sự cố phụ thuộc bên cung cấp |
| Độ phủ mô hình | Mô hình của OpenAI | Tùy tài khoản thượng nguồn, thường chỉ một nguồn | Thường tổng hợp nhiều hãng, căn cứ trang giá |
| Xử lý sự cố | Kênh hỗ trợ chính thức | Tự xác định, tự khôi phục | Bên cung cấp xử lý thượng nguồn, người dùng giữ request ID |
| Phù hợp với | Đội đủ điều kiện thanh toán, mạng và chỉ dùng OpenAI | Đội có năng lực vận hành, cần đầu ra thống nhất | Đội vừa và nhỏ trong nước, nhiều mô hình, cần hóa đơn nhân dân tệ |
Bảng này chỉ dùng để sàng lọc ban đầu. Điều thực sự quyết định trải nghiệm là độ trễ, tỷ lệ thất bại và phản ứng sự cố vào giờ cao điểm; nên dùng yêu cầu nghiệp vụ thật để đo trong một đến hai tuần trước khi quyết định.
3. Độ ổn định mạng: xem dao động, không chỉ xem có kết nối được
“Mở được” không đồng nghĩa với “gọi ổn định”. Cần chú ý thời gian tới byte đầu tiên, tổng thời gian, tỷ lệ quá thời gian và tỷ lệ đứt luồng truyền phát. Đường truyền xuyên biên giới dễ tăng độ trễ và mất gói vào cao điểm buổi tối, biểu hiện là quá thời gian ngẫu nhiên, kết nối bị đặt lại hoặc luồng bị đứt, chứ không phải lần nào cũng thất bại.
Proxy tự dựng không tự động giải quyết vấn đề tuyến: khu vực máy chủ, tuyến về, có bị giới hạn tốc độ hay không đều ảnh hưởng đến độ ổn định. Giá trị của cổng trong nước nằm ở điểm vào đặt trong nước và tuyến do bên cung cấp bảo trì, nhưng độ trễ vẫn phải đo thực tế.
Đừng chỉ ping. Hãy chạy yêu cầu thật liên tục trong một khoảng thời gian, ghi lại tỷ lệ thành công, độ trễ P95 và số lần quá thời gian. Lệnh dưới đây cho thấy thời gian từng giai đoạn:
curl -o /dev/null -sS \
-w "dns=%{time_namelookup}s tcp=%{time_connect}s tls=%{time_appconnect}s ttfb=%{time_starttransfer}s total=%{time_total}s code=%{http_code}\n" \
"$OPENAI_BASE_URL/models" \
-H "Authorization: Bearer $OPENAI_API_KEY"
DNS chậm thì xem phân giải; TCP chậm thì xem tuyến; TLS chậm thì xem bắt tay và chứng chỉ; byte đầu chậm phần lớn là do thượng nguồn xếp hàng. Chạy một nhóm vào buổi sáng, trưa và tối sẽ có giá trị tham khảo hơn một lần đo đơn lẻ.
4. Thanh toán, hóa đơn và ngân sách
Kết nối trực tiếp cần phương thức thanh toán được chính thức hỗ trợ; loại tiền, kỳ thanh toán và quy định hóa đơn đều nằm trong hệ thống chính thức. Proxy tự dựng không né được thanh toán: máy chủ phải trả, tài khoản thượng nguồn cũng phải trả, chỉ là tách thành hai khoản. Cổng trong nước thường hỗ trợ nạp nhân dân tệ và hóa đơn trên site, phù hợp với đội cần hoàn ứng nội bộ.
Dù chọn hướng nào, nên đặt giới hạn ngân sách và nhắc nhở mức dùng. Giá có thể điều chỉnh; bài viết không nêu đơn giá cụ thể, thống nhất căn cứ theo trang giá. Phía tài chính cần xác nhận ba việc: khoản nạp có xuất được chứng từ hợp lệ không, số dư có hoàn lại được không, khi chậm thanh toán dịch vụ bị hạ cấp hay ngắt ngay.
5. Tuân thủ và điều khoản: vạch rõ ranh giới trước
Phần này chỉ nói cách đánh giá, không đưa ra biện pháp né tránh. Đội cần rà soát tối thiểu bốn điểm:
- Cách sử dụng có phù hợp luật và yêu cầu quản lý địa phương không;
- Có tuân thủ điều khoản của OpenAI và bên cung cấp thượng nguồn không;
- Dữ liệu xuất cảnh đã được đánh giá chưa, có chứa thông tin cá nhân hoặc dữ liệu nhạy cảm không;
- Bên cung cấp có yêu cầu định danh thật, có thỏa thuận xử lý dữ liệu và kênh khiếu nại không.
Tuân thủ không phải một dòng trong bảng chọn nhà cung cấp mà là ngưỡng đầu vào. Nếu bất kỳ điều nào không đáp ứng, giá thấp đến đâu cũng không nên lên tuyến. Khi không chắc, hãy tham vấn pháp chế hoặc tổ chức chuyên môn; không dùng biện pháp kỹ thuật thay cho đánh giá.
6. Chi phí bảo trì: proxy không phải cài xong là hết
Tự dựng proxy lên tuyến chỉ là bước đầu. Sau đó phải xử lý gia hạn chứng chỉ, nâng cấp chương trình, nhật ký và dung lượng đĩa, kiểm soát truy cập, thay đổi IP, giới hạn tốc độ và cảnh báo giám sát. Khóa đặt trên proxy còn phải chống rò rỉ và bị quét. Đội không có lịch trực thường gặp sự cố lúc nửa đêm.
Cổng giao lớp này cho bên cung cấp, nhưng đội vẫn cần giữ ba năng lực: xem mức dùng, lưu request ID, chuyển tuyến dự phòng khi sự cố. Phụ thuộc hoàn toàn vào một điểm vào nghĩa là giao khả dụng cho người khác; tự dựng hoàn toàn nghĩa là giao cho người của mình. Lựa chọn phụ thuộc vào việc đội sẵn sàng gánh loại rủi ro nào hơn.
7. Độ phủ mô hình và xử lý sự cố
Đội chỉ dùng OpenAI thì độ phủ mô hình không phải vấn đề; đội dùng nhiều mô hình cùng lúc sẽ thấy ưu điểm của cổng rõ hơn: một Base URL, một bộ khóa, một hóa đơn. Nhưng “tương thích” thường chỉ là tương thích định dạng yêu cầu; mức hỗ trợ tham số, gọi công cụ và định dạng truyền phát của các mô hình không giống nhau, cần kiểm tra từng mục trước khi chuyển.
Về xử lý sự cố, kết nối trực tiếp và proxy do đội tự kiểm tra, còn cổng do bên cung cấp xác định thượng nguồn. Dù cách nào, phía người dùng cũng phải giữ mã trạng thái, thân phản hồi và request ID. Gặp 5xx đừng thử lại vô hạn; đặt số lần tối đa và tổng thời gian chờ. Khi luồng truyền phát bị đứt, trước hết xác định đã có đầu ra một phần và đã bị tính phí hay chưa.
8. Cấu hình thời gian chờ, thử lại và dự phòng
Dưới đây là một cấu hình Python có thể áp dụng: tuyến chính thất bại thì thử lại theo điều kiện, sau đó chuyển địa chỉ dự phòng. Tên mô hình đọc từ biến môi trường để tránh viết cứng.
import os
import random
import time
from openai import OpenAI
PRIMARY = OpenAI(
api_key=os.environ["PRIMARY_API_KEY"],
base_url=os.environ["PRIMARY_BASE_URL"],
timeout=45.0,
max_retries=0,
)
FALLBACK = OpenAI(
api_key=os.environ["FALLBACK_API_KEY"],
base_url=os.environ["FALLBACK_BASE_URL"],
timeout=45.0,
max_retries=0,
)
RETRYABLE = {408, 409, 429, 500, 502, 503, 504}
def call(prompt: str) -> str:
clients = [PRIMARY, FALLBACK]
last_error = None
for client in clients:
for attempt in range(3):
try:
resp = client.responses.create(
model=os.environ["OPENAI_MODEL"],
input=prompt,
)
return resp.output_text
except Exception as exc:
last_error = exc
status = getattr(exc, "status_code", None)
if status not in RETRYABLE:
break
wait = min(2 ** attempt, 8) + random.random()
time.sleep(wait)
raise RuntimeError("Cả tuyến chính và dự phòng đều thất bại") from last_error
Điểm chính: thời gian chờ phải ngắn hơn thời gian chờ nghiệp vụ cho phép; chỉ lùi với lỗi có thể thử lại; tuyến dự phòng được cấu hình trước và diễn tập định kỳ; số lần thử lại không nên quá lớn, nếu không khi sự cố sẽ dồn yêu cầu thành hiệu ứng tuyết lở.
9. Danh sách kiểm tra trước khi lên tuyến
Xác nhận theo thứ tự, đánh dấu đủ rồi mới mở lưu lượng:
- Tuyến đã đo thực tế, ghi lại tỷ lệ thành công và độ trễ P95 buổi sáng, trưa, tối.
- Phương thức thanh toán khả dụng, đã đặt nhắc ngân sách và cảnh báo số dư.
- Khóa tách theo môi trường, lưu trong quản lý khóa phía máy chủ.
- Base URL chỉ giữ một
/v1, tên mô hình sao chép từ trang giá. - Đã cấu hình thời gian chờ, thử lại, dự phòng và đã diễn tập sự cố.
- Nhật ký có request ID, mô hình, thời gian, mã trạng thái và không chứa khóa đầy đủ.
- Đã rà soát yêu cầu tuân thủ và xử lý dữ liệu, hoàn tất phê duyệt nội bộ nếu cần.
- Tuyến dự phòng khả dụng, quy trình chuyển đổi được viết thành tài liệu và có người phụ trách.
10. Câu hỏi thường gặp
Đội trong nước kết nối trực tiếp có chắc chắn không ổn định?
Không chắc. Chất lượng tuyến khác nhau rất lớn theo khu vực, nhà mạng và khung giờ; phải đo bằng chính yêu cầu nghiệp vụ của mình. Độ ổn định là vấn đề xác suất.
Tự dựng proxy có phải tự quản lý tài khoản thượng nguồn?
Có. Proxy chỉ giải quyết chuyển tiếp và đầu ra thống nhất; tài khoản thượng nguồn, khóa, thanh toán và tuân thủ điều khoản vẫn phải xử lý riêng, không tự động có hạn mức khả dụng.
Cổng hay proxy tiết kiệm công hơn?
Thường cổng tiết kiệm công hơn: máy chủ, chứng chỉ, nâng cấp và một phần sự cố thượng nguồn do bên cung cấp gánh. Đổi lại là phụ thuộc bên cung cấp, cần giữ tuyến dự phòng và khả năng xuất dữ liệu mức dùng.
Chuyển sang cổng có phải sửa nhiều mã?
Phần lớn cổng tương thích chỉ cần đổi Base URL và khóa; tên mô hình thay theo trang giá. Với tham số không chuẩn hoặc phần giao diện riêng, cần kiểm thử hồi quy từng mục.
Khi sự cố nên xem gì trước?
Trước hết xem mã trạng thái và thân phản hồi, sau đó xem request ID, cuối cùng phân biệt mạng cục bộ, dịch vụ điểm vào hay thượng nguồn. Không có request ID thì việc trao đổi và xác định nguyên nhân đều chậm hơn.
Bước tiếp theo
Ba hướng không có ưu thế tuyệt đối; hãy làm rõ thanh toán, tuân thủ và xử lý sự cố trước, rồi kiểm chứng bằng lưu lượng thật. Nếu cần nạp nhân dân tệ và đầu mối đa mô hình thống nhất, có thể bắt đầu từ đăng ký ZSQH AI Gateway; giá và mô hình căn cứ theo trang giá.
Đọc thêm:
