Khi gọi Gemini API trong nước, điểm khó thường không phải mã nguồn mà là đường truyền: yêu cầu có ra ngoài ổn định không, độ trễ có chấp nhận được không, hạn mức có đủ không, có sự cố thì ai xử lý. Nhiều đội dùng proxy cá nhân chạy thông trước rồi mang nguyên cấu hình đó vào sản xuất, để rồi phải làm lại liên tiếp ở khâu đồng thời, giới hạn tốc độ và tuân thủ.

Bài viết chia các phương án phổ biến thành ba loại: kết nối trực tiếp, tự dựng proxy và cổng AI trong nước, lần lượt nêu ranh giới áp dụng, cách xử lý hạn mức và phương pháp lên tuyến. Kết luận trước: giai đoạn nguyên mẫu làm sao thuận tiện thì làm, môi trường sản xuất phải chọn theo tiêu chí “giám sát được, dự phòng được, giải trình tuân thủ được”.

Lưu ý: Google và Gemini là nhãn hiệu của chủ sở hữu tương ứng. Bài viết lấy tình hình mạng và giao diện phổ biến tháng 10 năm 2026 làm ví dụ; khu vực dịch vụ, hạn mức và điều khoản căn cứ theo trang chính thức; vui lòng tuân thủ pháp luật địa phương và điều khoản sử dụng nền tảng.

1. So sánh ngang ba phương án

Tiêu chí Kết nối trực tiếp chính thức Tự dựng proxy Cổng AI trong nước
Khả dụng điển hình Chịu ảnh hưởng lớn từ mạng và khu vực Tùy chất lượng đầu ra Nhà cung cấp chịu trách nhiệm, có trang trạng thái
Độ trễ Dao động rõ Có thể tối ưu nhưng thêm một chặng Thường ổn định hơn
Chi phí vận hành Thấp nhưng khó điều tra sự cố Cao, phải duy trì máy chủ và đầu ra Thấp, dùng theo giao diện
Hạn mức Theo giới hạn và khu vực chính thức Không thay đổi hạn mức chính thức Cổng phân bổ và giới hạn tốc độ
Tính phí USD, xuất hóa đơn theo mức dùng Phí chính thức cộng chi phí máy chủ Nhân dân tệ, trả trước
Giải trình tuân thủ Tự giải trình đường truyền xuyên biên giới Tự chịu trách nhiệm đầu ra và nhật ký Có hợp đồng trong nước và ranh giới dịch vụ
Tình huống phù hợp Kiểm chứng cá nhân, nhiệm vụ ít nhạy cảm Hệ thống nội bộ có đội mạng Nghiệp vụ sản xuất hướng khách hàng

Bảng này không thay bạn ra quyết định, mà nhắc rằng: proxy chỉ giải quyết “có thông hay không”, không giải quyết hạn mức, hóa đơn và tuân thủ. Coi proxy là phương án sản xuất dài hạn tức là để sự không chắc chắn nằm lại trong đường truyền.

2. Kết nối trực tiếp: xác định là vấn đề mạng hay quyền trước

Kết nối trực tiếp thất bại thường gặp ba trường hợp; thứ tự điều tra không nên đảo lộn:

  1. Khu vực không khả dụng: khu vực dịch vụ chính thức chưa bao phủ, yêu cầu có thể quá thời gian hoặc bị từ chối thẳng; đổi Key không giải quyết được.
  2. Mạng không thông: phân giải DNS, bắt tay TLS, định tuyến đầu ra đều có thể gặp vấn đề; dùng curl -v xem tắc ở bước nào.
  3. Xác thực hoặc dự án sai: 401 là vấn đề Key, 403 phần nhiều là dự án, API chưa bật hoặc quyền mô hình.
export GEMINI_API_KEY="khóa-của-bạn"

curl -v "https://generativelanguage.googleapis.com/v1beta/models" \
  -H "x-goog-api-key: $GEMINI_API_KEY" \
  --max-time 15

Nếu quá thời gian ngay ở giai đoạn kết nối thì chỉnh tham số phía sau vô nghĩa; nếu kết nối được nhưng trả 4xx thì mới điều tra theo mã trạng thái. Ghi lại giai đoạn thất bại, thời gian và mã trạng thái mỗi lần để phân biệt dao động ngẫu nhiên với không khả dụng có tính cấu trúc.

3. Tự dựng proxy: giải quyết kết nối, không giải quyết hạn mức

Cấu trúc điển hình của proxy tự dựng là: máy chủ nghiệp vụ → đầu ra nước ngoài → Gemini API. Nó phù hợp với đội có năng lực vận hành mạng và kiểm soát được độ nhạy cảm dữ liệu, nhưng phải ghi bốn việc vào sổ tay vận hành:

  • IP đầu ra có ổn định không, có bị dịch vụ đích đánh giá là lưu lượng bất thường không.
  • Lớp proxy có ghi nội dung yêu cầu không, nhật ký lưu bao lâu, ai được truy cập.
  • Chứng chỉ, tên miền và cổng quản lý thế nào, khi hết hạn cảnh báo ra sao.
  • Băng thông, đồng thời và chuyển đổi sự cố của chính máy chủ proxy.

Proxy không nâng hạn mức chính thức. Giới hạn RPM, TPM của gói miễn phí hoặc gói thấp vẫn còn, giờ cao điểm vẫn xếp hàng. Vấn đề phổ biến hơn là mọi nghiệp vụ dùng chung một đầu ra; một script chạy lỗi có thể kéo sập cả đường truyền, nên tách đầu ra và giới hạn tốc độ theo nghiệp vụ là cần thiết.

4. Tích hợp qua cổng: thường chỉ đổi ba chỗ

Cổng AI trong nước thường cung cấp điểm vào tương thích OpenAI; mã hiện có chỉ cần đổi Base URL, Key và tên mô hình:

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["ZSQH_API_KEY"],
    base_url="https://ai.zhongshangqihang.com/v1",
)

resp = client.chat.completions.create(
    model="<tên mô hình Gemini trên trang giá>",
    messages=[{"role": "user", "content": "Chỉ trả lời OK"}],
    max_tokens=64,
)
print(resp.choices[0].message.content)
print(resp.usage)

Tên mô hình căn cứ theo trang bảng giá mô hình trên site, không sao chép nguyên ví dụ. Sau khi tích hợp, chạy một yêu cầu tối thiểu trước, rồi chạy một lô nhiệm vụ thật; tập trung xem ba điều: độ trễ byte đầu, tỷ lệ lỗi và nội dung trả về có bị dự phòng hay không. Cổng là ranh giới dịch vụ; trước khi chọn hãy xác nhận trang trạng thái, kênh hỗ trợ, quy tắc hoàn tiền và điều khoản dữ liệu.

5. Hạn mức và 429: viết đúng phần thử lại

Hạn mức Gemini thường tính theo mô hình, dự án và cửa sổ thời gian; các chiều phổ biến gồm số yêu cầu mỗi phút, Token mỗi phút và số yêu cầu mỗi ngày. Khi chạm giới hạn thường trả 429; cách xử lý quyết định sự cố có bị khuếch đại hay không:

  1. Lùi theo cấp số nhân kèm nhiễu ngẫu nhiên, tránh mọi máy khách thử lại cùng lúc.
  2. Đặt số lần thử lại tối đa và tổng thời gian chờ; vượt thì dự phòng, không gửi lại vô hạn.
  3. Xếp hàng theo ưu tiên nghiệp vụ, yêu cầu tương tác ưu tiên hơn xử lý hàng loạt ngoại tuyến.
  4. Giữ tính lũy đẳng cho thao tác ghi, tránh thử lại tạo tác dụng phụ trùng lặp.
  5. Giám sát phân bố thời gian của 429 để phân biệt giới hạn theo phút với cạn hạn mức ngày.
  6. Dự phòng mô hình hoặc kênh thay thế, tự chuyển khi kênh chính bị giới hạn.

Nếu cạn hạn mức ngày, thử lại vô nghĩa; nên hạ hạng, giảm lệnh gọi không quan trọng hoặc điều chỉnh hạn mức. Nếu đồng thời tăng đột biến, hãy giới hạn tốc độ trước rồi mở rộng; làm ngược chỉ khiến cả đường truyền chậm hơn.

6. Tuân thủ và dữ liệu: ba câu hỏi bắt buộc trả lời

  1. Yêu cầu có chứa thông tin cá nhân, hợp đồng khách hàng, mã nguồn hoặc dữ liệu tài chính không?
  2. Dữ liệu đi qua những nút nào, lưu tại khu vực nào, nhật ký giữ bao lâu?
  3. Khi có sự cố bảo mật, ai cung cấp được hồ sơ, thông báo nhanh đến mức nào?

Đường truyền xuyên biên giới càng dài, chi phí giải trình càng cao. Với hệ thống sản xuất hướng khách hàng, nên phân loại và phân cấp dữ liệu, khử nhận dạng trường nhạy cảm trước; khi cần lưu nhật ký, xác định rõ quyền truy cập và quy trình xóa. Đừng vì “chỉ gọi một API” mà bỏ qua thẩm định tuân thủ.

7. Các bước lên tuyến

  1. Dùng nhiệm vụ thật kiểm thử áp lực một tuần, bao phủ cao điểm và thấp điểm.
  2. Ghi tỷ lệ thành công, độ trễ p50 và p95, phân bố 429 và chi phí mỗi nhiệm vụ.
  3. Xác nhận khoảng cách giữa hạn mức tối đa và đỉnh nghiệp vụ, để dư biên.
  4. Kết nối giám sát và cảnh báo, bao phủ tỷ lệ lỗi, độ trễ, số dư và giới hạn tốc độ.
  5. Diễn tập chuyển đổi chính dự phòng, xác nhận nghiệp vụ chấp nhận được khi dự phòng.
  6. Lưu trữ hợp đồng, hóa đơn, điều khoản dữ liệu và mô tả bảo mật.
  7. Chuyển lưu lượng nhỏ trước, quan sát một tuần rồi mới chạy toàn bộ.

Câu hỏi thường gặp

Gemini API có thể gọi trực tiếp trong nước không?

Khả năng kết nối trực tiếp phụ thuộc khu vực dịch vụ chính thức, đầu ra mạng và trạng thái tài khoản; biểu hiện thực tế có thể là quá thời gian, kết nối bị đặt lại hoặc 4xx. Đừng kết luận từ một lần thành công hay thất bại; hãy đánh giá theo tỷ lệ thất bại và phân bố độ trễ trong một tuần.

Dùng proxy có ổn định không?

Proxy cải thiện kết nối, nhưng độ ổn định phụ thuộc chất lượng đầu ra, đồng thời và trình độ vận hành. Nó không thay đổi hạn mức chính thức, cũng không tự giải quyết tuân thủ và nhật ký; dùng sản xuất cần phương án giám sát và dự phòng đầy đủ.

Vì sao luôn trả 429?

Có thể là giới hạn tốc độ theo phút, cạn hạn mức ngày hoặc đồng thời tăng đột biến. Trước hết xem header phản hồi và trang mức dùng để phân biệt loại giới hạn; khi cạn hạn mức ngày, thử lại vô hiệu, nên điều chỉnh hạn mức hoặc giảm lệnh gọi không quan trọng.

Cổng có làm thay đổi năng lực mô hình không?

Cổng chủ yếu làm xác thực, định tuyến, giới hạn tốc độ và tính phí; bình thường không thay đổi bản thân mô hình. Nhưng phạm vi mô hình, hỗ trợ tham số và phiên bản mở ra ở các kênh khác nhau có thể khác; trước khi lên tuyến hãy so sánh bằng cùng một bộ nhiệm vụ.

Truy cập trong nước cần lưu ý tuân thủ gì?

Tối thiểu xác nhận dữ liệu có vượt biên không, có chứa thông tin cá nhân không, nhật ký lưu bao lâu, nhà cung cấp có hợp đồng và mô tả bảo mật không. Khi liên quan đến dữ liệu nhạy cảm, khử nhận dạng trước và hoàn tất thẩm định theo quy định công ty.

Bước tiếp theo

Nếu không muốn tự duy trì proxy và đầu ra, trước hết có thể dùng ZSQH AI Gateway chạy thông một yêu cầu Gemini, rồi tách Key và đặt ngân sách theo dự án. Mô hình khả dụng và giá căn cứ theo bảng giá mô hình.

Bài viết liên quan: