Mua Gemini API cho doanh nghiệp dễ bị đơn giản hóa thành câu hỏi “mỗi triệu Token giá bao nhiêu”. Điều thực sự quyết định dự án có lên được tuyến hay không là hạn mức, tốc độ, điều khoản dữ liệu, quản lý tài khoản và khóa, đối soát hóa đơn, và việc có phương án dự phòng khi kênh chính gặp sự cố hay không.

Bài viết đưa ra danh sách kiểm tra theo thứ tự mua sắm và lên tuyến. Mô hình và giá cụ thể căn cứ theo trang bảng giá mô hình trên site và tài liệu của Google; bài không nêu đơn giá cố định và không đưa ra kết luận pháp lý thay cho bên nào.

Lưu ý: Google và Gemini là nhãn hiệu của Google LLC. Điều khoản, khu vực và quy tắc hạn mức của Google AI Studio và Vertex AI có thể khác nhau; cuối cùng căn cứ theo hợp đồng đã ký, điều khoản chính thức và cấu hình thực tế trên bảng điều khiển. ZSQH AI Gateway là cổng API bên thứ ba độc lập; bài viết chỉ thảo luận phương pháp tích hợp và mua sắm.

1. Tính khối lượng trước, rồi mới nói hạn mức

Trước khi mua, hãy trả lời bốn câu hỏi; nếu không, hạn mức chỉ có thể ước đoán cảm tính.

  1. Mỗi ngày có bao nhiêu yêu cầu, cao điểm tập trung vào mấy giờ giờ Bắc Kinh?
  2. Đầu vào và đầu ra trung bình bao nhiêu Token, nhóm 5% dài nhất dài đến đâu?
  3. Hình ảnh, âm thanh, video và PDF chiếm tỷ lệ bao nhiêu, mỗi tài liệu lớn cỡ nào?
  4. Tỷ lệ thử lại, tỷ lệ thất bại và việc gửi lặp lịch sử hội thoại tạo thêm bao nhiêu yêu cầu?

Hãy nhóm nhật ký tuần gần nhất theo mô hình, loại nhiệm vụ và độ dài đầu vào, tính lượng yêu cầu ngày, lượng Token ngày và mức đồng thời cao điểm, nhân 30 để có nền tảng tháng, rồi cộng thêm 20%–30% dự phòng thử lại. Dự án mới chưa có nhật ký thì chạy lưu lượng nhỏ một tuần, đừng ước cứng theo “số người dùng × số lần”.

2. Hạn mức, tốc độ và hóa đơn

Gói miễn phí của AI Studio phù hợp để kiểm chứng, nhưng tốc độ và hạn mức chặt hơn, điều khoản dữ liệu cũng có thể khác. Môi trường sản xuất nên quy hoạch theo gói trả phí và ghi rõ các mục sau vào đơn mua:

  • Chủ thể thanh toán là tài khoản nước ngoài hay công ty trong nước, xử lý loại tiền và tỷ giá thế nào.
  • Dùng trả trước hay trả sau, thiết lập cảnh báo số dư và nạp tự động ra sao.
  • Hạn mức phân bổ theo dự án hay theo đội, ai được xin tăng tạm thời.
  • Chiến lược thử lại, xếp hàng và dự phòng khi xuất hiện 429.
  • Loại hóa đơn, kỳ xuất hóa đơn và các trường cần cho đối soát.

Kết nối trực tiếp chính thức thường thanh toán bằng USD, phù hợp đội đã có quy trình thanh toán nước ngoài; đội cần hóa đơn nhân dân tệ và hóa đơn đa mô hình thống nhất có thể đánh giá cổng trong nước. Hai hướng có cấu trúc chi phí khác nhau, không thể chỉ so giá niêm yết.

3. Dữ liệu và tuân thủ: hỏi trước khi ký

Ranh giới tuân thủ phụ thuộc vào điểm vào, tính năng bật và khu vực lưu dữ liệu. Khi mua sắm, hãy lập danh sách câu hỏi bằng văn bản gửi pháp chế, an ninh và nghiệp vụ đánh giá:

  1. Đầu vào và đầu ra có bị dùng để huấn luyện mô hình không, điều khoản doanh nghiệp có quy định khác không?
  2. Dữ liệu lưu bao lâu, yêu cầu xóa được gửi thế nào, bao lâu có hiệu lực?
  3. Dữ liệu lưu ở khu vực nào, có đáp ứng yêu cầu lưu trú dữ liệu của công ty hoặc khách hàng không?
  4. Có ký được thỏa thuận xử lý dữ liệu không, ranh giới trách nhiệm và mức bồi thường tối đa ghi thế nào?
  5. Có những bên xử lý phụ nào, khi thay đổi có thông báo trước không?
  6. Nhật ký, bộ nhớ đệm và tải tệp có bật mặc định không, có thể tắt hoặc rút ngắn thời gian lưu không?

Đừng chấp nhận trả lời miệng. Hãy lưu trữ chính sách quyền riêng tư, thỏa thuận xử lý dữ liệu, mô tả an ninh và danh sách bên xử lý phụ làm tài liệu nghiệm thu. Khi liên quan thông tin cá nhân hoặc dữ liệu xuyên biên giới, hãy ẩn danh hóa trước và để pháp chế xác nhận đường đi.

4. Tài khoản, quyền và quản lý khóa

Điều doanh nghiệp sợ nhất là “một khóa dùng cho cả công ty”. Nên triển khai theo thứ tự sau:

  1. Đăng ký bằng email tên miền doanh nghiệp, tổ chức gắn với chủ thể công ty, không dùng tài khoản cá nhân tiếp nhận nghiệp vụ.
  2. Tách dự án Cloud hoặc không gian làm việc theo sản xuất, kiểm thử, phát triển; hóa đơn và hạn mức tổng hợp riêng.
  3. Chỉ cấp quyền quản trị cho số ít người, bật xác thực hai yếu tố, rà soát thành viên mỗi quý.
  4. Gọi nghiệp vụ dùng tài khoản dịch vụ hoặc khóa riêng, không dùng thông tin xác thực quản trị.
  5. Mỗi khóa ghi rõ người phụ trách, mục đích, môi trường và thời điểm tạo; rời đi là thu hồi.
  6. Bật nhật ký kiểm toán và cảnh báo mức dùng; khi có gọi bất thường, dừng khóa trước rồi mới xác định nguyên nhân.

Khóa chỉ đặt trong biến môi trường phía máy chủ hoặc dịch vụ quản lý khóa, không vào frontend, kho mã hay ảnh chụp phiếu công việc. Bản demo dùng khóa riêng hạn mức thấp, kết thúc thì xóa.

5. Kiểm soát chi phí: bắt đầu từ kiến trúc, không chỉ đổi nhà cung cấp

Chi phí Gemini do bậc mô hình, độ dài đầu vào/đầu ra, tài liệu đa phương thức và thử lại cùng quyết định. Thứ tự nên là: xử lý đầu vào trước, phân tầng định tuyến sau, cuối cùng mới so đơn giá.

  • Cố định chỉ dẫn hệ thống và tiền tố tài liệu dài, dùng bộ nhớ đệm ngữ cảnh để giảm đầu vào lặp.
  • Nhiệm vụ phân loại, trích xuất, viết lại đi bậc nhẹ; suy luận phức tạp mới nâng cấp.
  • Đặt maxOutputTokens, yêu cầu JSON hoặc trường cố định, tránh diễn giải dài dòng.
  • Giảm độ phân giải ảnh, giảm tần suất lấy khung hình video, PDF chỉ gửi trang liên quan.
  • Nhiệm vụ ngoại tuyến đi xử lý theo lô, chấp nhận xếp hàng để đổi lấy chi phí thấp hơn.
  • Đặt giới hạn và lùi cho thử lại; trong thời gian 429 không phóng đại lượng yêu cầu.
  • Ghi mức dùng theo ba chiều dự án, đội, nhiệm vụ để phân bổ chi phí nội bộ.

Sau khi tích hợp cổng, có thể dùng SDK OpenAI thống nhất yêu cầu và đối chiếu mức dùng trong phản hồi:

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["ZSQH_API_KEY"],
    base_url="https://ai.zhongshangqihang.com/v1",
)

resp = client.chat.completions.create(
    model="<tên mô hình Gemini trên trang giá>",
    messages=[{"role": "user", "content": "Chỉ trả lời OK"}],
    max_tokens=64,
)

print(resp.usage)

Tên mô hình căn cứ theo trang bảng giá mô hình, không dùng tên trong tài liệu cũ. Trước khi đưa nhiệm vụ mới lên tuyến, hãy đo “chi phí để hoàn thành một nhiệm vụ đạt chuẩn” bằng mẫu thật, đừng chỉ nhìn giá một lần gọi.

6. Nhà cung cấp dự phòng và phương án hạ cấp

Mua sắm doanh nghiệp phải giả định kênh chính sẽ dao động; chuẩn bị ít nhất ba lớp: mô hình dự phòng cùng hãng, mô hình của hãng khác, và phương án hạ cấp phía nghiệp vụ hoặc kết quả đệm.

Hãy trừu tượng hóa lời gọi mô hình thành giao diện thống nhất, cấu hình thời gian chờ, thử lại, ngắt mạch và công tắc chuyển đổi; việc chuyển đổi phải hoàn tất trong một phút và không sửa mã nghiệp vụ. Diễn tập mỗi quý, xác nhận khóa, hạn mức và tên mô hình của kênh dự phòng còn hiệu lực; ghi rõ mức dịch vụ và thỏa thuận rời đi trong hợp đồng.

7. Thử điểm và nghiệm thu: kế hoạch đánh giá bốn tuần

Nên thử điểm quy mô nhỏ trong bốn tuần, tránh chuyển toàn bộ một lần.

Công đoạn Thực hiện R Phê duyệt A Phối hợp C Được thông báo I Sản phẩm bàn giao
Yêu cầu và đo hạn mức Chủ nghiệp vụ Trưởng bộ phận Tài chính, kỹ thuật Mua sắm Bảng nền mức dùng
Đánh giá dữ liệu và tuân thủ An ninh tuân thủ Pháp chế Kỹ thuật, mua sắm Ban điều hành Danh sách rủi ro và kết luận
Cấu hình tài khoản và quyền Quản trị nền tảng Trưởng kỹ thuật An ninh Nghiệp vụ Danh sách dự án và khóa
Tích hợp kỹ thuật và đo tải Trưởng phát triển Trưởng kỹ thuật Vận hành Nghiệp vụ Báo cáo tích hợp và biên bản đo tải
Giám sát chi phí và đối soát Tài chính Trưởng tài chính Kỹ thuật, mua sắm Ban điều hành Báo cáo chi phí hằng tuần
Hợp đồng và thanh toán Mua sắm Trưởng tài chính Pháp chế Nghiệp vụ Hợp đồng, hóa đơn, biên lai
Nghiệm thu lên tuyến Chủ nghiệp vụ Trưởng bộ phận Kỹ thuật, an ninh Ban điều hành Biên bản ký nghiệm thu

Tuần một chạy thông giao diện và quyền; tuần hai so sánh chất lượng bằng mẫu thật; tuần ba đo tải cao điểm và diễn tập sự cố; tuần bốn tổng hợp chi phí và trình nghiệm thu. Chỉ số gồm độ chính xác nhiệm vụ, độ trễ P95, tỷ lệ lỗi và tỷ lệ thử lại, chi phí mỗi nhiệm vụ, kiểm tra khóa và quyền; ngưỡng cụ thể do đội đặt theo nghiệp vụ.

8. Những câu hỏi cần đặt trong hợp đồng

  1. Mức dịch vụ được định nghĩa thế nào, cách thống kê và phương thức bồi thường ra sao?
  2. Điều chỉnh giá được thông báo trước bao lâu, hạn mức đã mua có bị ảnh hưởng không?
  3. Quy trình xin tăng hạn mức và thời gian phản hồi là bao nhiêu?
  4. Thỏa thuận xử lý dữ liệu, giới hạn khu vực và quy trình xóa có ghi vào hợp đồng được không?
  5. Loại hóa đơn, loại tiền, chu kỳ thanh toán và quy tắc hoàn tiền là gì?
  6. Kênh hỗ trợ, thời gian phản hồi và đường nâng cấp là gì?
  7. Sau khi chấm dứt hợp tác, dữ liệu được xuất và xóa thế nào?
  8. Thay đổi bên xử lý phụ và sự cố an ninh được thông báo ra sao?

Câu hỏi thường gặp

Mua Gemini API doanh nghiệp có nhất thiết phải dùng Vertex AI?

Không nhất thiết. Đội có yêu cầu cao về khu vực dữ liệu, IAM, kiểm toán và chủ thể hợp đồng phù hợp hơn với Vertex AI; kiểm chứng nhanh và nghiệp vụ quy mô nhỏ có thể dùng AI Studio trước. Hãy xác nhận điều khoản và hạn mức đáp ứng nghiệp vụ rồi mới quyết định điểm vào.

Hạn mức miễn phí có dùng cho sản xuất được không?

Không nên. Tốc độ, hạn mức và điều khoản dữ liệu của gói miễn phí thường khác gói trả phí; bị giới hạn đột ngột sẽ ảnh hưởng trải nghiệm. Môi trường sản xuất nên quy hoạch theo gói trả phí; gói miễn phí chỉ dùng cho nguyên mẫu và kiểm thử nội bộ.

Dữ liệu Gemini API có bị dùng để huấn luyện không?

Câu trả lời có thể khác nhau theo sản phẩm, điều khoản và cấu hình. Căn cứ theo thỏa thuận xử lý dữ liệu và điều khoản chính thức; khi có dữ liệu nhạy cảm, hãy ẩn danh hóa trước và để pháp chế xác nhận điều khoản lưu trữ và huấn luyện.

Hạn mức không đủ hoặc thường xuyên 429 thì làm gì?

Trước hết xem là giới hạn tốc độ hay giới hạn tổng hạn mức, sau đó tối ưu thử lại, mức đồng thời và độ dài yêu cầu; xác nhận do tăng trưởng nghiệp vụ rồi mới xin tăng hạn mức hoặc thêm kênh dự phòng. Gửi lại mù quáng chỉ làm tình hình tệ hơn.

Làm sao chứng minh chi phí sau mua sắm trong tầm kiểm soát?

Lập nền mức dùng trước khi lên tuyến, sau khi lên tuyến xuất báo cáo tuần theo dự án, theo dõi chi phí mỗi nhiệm vụ, tỷ lệ trúng bộ nhớ đệm, tỷ lệ thử lại và tỷ lệ phân bổ theo bậc. Liên tục bốn tuần nằm trong ngân sách và đạt chất lượng mới coi là trong tầm kiểm soát.

Bước tiếp theo

Trước hết dùng nhiệm vụ thật để tạo khóa thử nghiệm tại ZSQH AI Gateway, kiểm chứng mô hình, độ trễ và hóa đơn nhân dân tệ, rồi tách khóa chính thức theo môi trường. Giá căn cứ theo trang bảng giá mô hình; trước khi mua, hãy đưa danh sách kiểm tra cho tài chính, pháp chế và kỹ thuật xem qua.

Đọc thêm: