Doubao API được cung cấp qua Volcengine Ark; hóa đơn không phải khoản cố định "gọi một lần tính một lần" mà do token đầu vào, token đầu ra, bộ nhớ đệm, phương thức suy luận và tài nguyên dự phòng cùng quyết định. Nhiều đội lập ngân sách theo một đơn giá duy nhất, sau khi lên production mới thấy chi phí cao hơn; nguyên nhân thường không phải mô hình tăng giá, mà là cấu trúc đầu vào, tỷ lệ trúng bộ nhớ đệm và cách gọi khác với lúc ước tính.

Bài viết chia cách tính phí Doubao API thành các phần có thể đối chiếu từng khoản, đồng thời đưa ra thứ tự ước tính và giảm chi phí. Đơn giá cụ thể lấy giá mô hình trên trang và trang giá của Volcengine Ark làm chuẩn; giá và quy tắc có thể điều chỉnh.

Ghi chú: Doubao, Volcengine Ark và Volcengine là nhãn hiệu của các chủ sở hữu quyền tương ứng. Bài viết chỉ dùng để giải thích kỹ thuật, không hàm ý bất kỳ quan hệ hợp tác nào; quy tắc tính phí và xuất hóa đơn lấy trang của nhà cung cấp làm chuẩn.

1. Hóa đơn gồm những khoản nào

Suy luận trực tuyến của Volcengine Ark tính phí sau theo token, nhưng hóa đơn đầy đủ còn có thể gồm lưu trữ bộ nhớ đệm, suy luận theo lô, gói thông lượng và phí tinh chỉnh.

Khoản tính phí Khi nào phát sinh Đơn vị tính phí Ghi chú
Đầu vào (không trúng đệm) Câu lệnh lần đầu vào ngữ cảnh Token Tương ứng prompt_tokens
Đầu vào (trúng đệm) Tái sử dụng tiền tố đã đệm trước đó Token Tương ứng cached_tokens, đơn giá thường thấp hơn
Lưu trữ bộ nhớ đệm Sau khi bật bộ nhớ đệm ngữ cảnh Token × giờ Tính theo lượng lưu trữ lớn nhất trong giờ đồng hồ
Đầu ra Mô hình sinh nội dung hoặc kết quả có cấu trúc Token Tương ứng completion_tokens
Suy luận theo lô Tác vụ xử lý hàng loạt ngoại tuyến Token Có giá riêng, thường không trừ hạn mức miễn phí
Gói thông lượng TPM Đặt trước thông lượng mỗi phút Thời gian mua Không gọi vẫn tính phí
Đơn vị mô hình Tài nguyên tính toán độc quyền Thời gian mua Không gọi vẫn tính phí
Tinh chỉnh Giai đoạn huấn luyện Token × vòng hoặc tài nguyên Tách riêng với phí suy luận

Trước tiên hãy phân biệt hai loại phí "dùng bao nhiêu trả bấy nhiêu" và "mua là phải trả", ngân sách mới không bị sót khoản. Loại trước dao động theo lưu lượng, loại sau là chi phí cố định.

2. Đầu vào và đầu ra được tính thế nào

Đầu vào là toàn bộ nội dung đi vào ngữ cảnh trong yêu cầu: câu lệnh hệ thống, tin nhắn lịch sử, định nghĩa công cụ, tài liệu truy xuất được, hình ảnh và nội dung đa phương thức khác. Tất cả đều được quy đổi thành token và tính theo đơn giá đầu vào. Đầu ra là nội dung mô hình thực sự sinh ra, tính theo đơn giá đầu ra, thường cao hơn.

Một số chi tiết dễ bị bỏ qua:

  • Hội thoại nhiều lượt nếu lần nào cũng mang toàn bộ lịch sử thì token đầu vào sẽ tích lũy theo số lượt, không chỉ tính câu mới nhất.
  • Schema và mô tả hàm của công cụ cũng chiếm token đầu vào; càng nhiều công cụ, chi phí cố định càng lớn.
  • Đầu vào đa phương thức như hình ảnh, âm thanh được quy đổi theo quy tắc, không thể chỉ ước theo độ dài văn bản.
  • Nội dung suy nghĩ do mô hình suy luận sinh ra thường được tính vào đầu ra; cách tính cụ thể lấy hướng dẫn tính phí của nhà cung cấp làm chuẩn.

Vì vậy ngân sách không chỉ hỏi "đầu vào bao nhiêu tiền, đầu ra bao nhiêu tiền" mà còn phải hỏi "trong yêu cầu của tôi, đầu vào và đầu ra chiếm bao nhiêu". Robot chăm sóc khách hàng có đầu vào nhiều, đầu ra ngắn; sinh văn bản dài thì ngược lại; cấu trúc chi phí của hai bên hoàn toàn khác nhau.

3. Bộ nhớ đệm ngữ cảnh: tiết kiệm được nhưng cũng phát sinh phí

Logic của bộ nhớ đệm ngữ cảnh là tái sử dụng tiền tố ổn định. Khi phần đầu của hai yêu cầu hoàn toàn giống nhau, phần trúng được tính theo đơn giá trúng đệm thấp hơn, chỉ nội dung mới tính theo đầu vào thông thường. Nhưng nó không miễn phí:

  1. Phần trúng đệm tính theo cached_tokens, giá thấp hơn đầu vào thông thường nhưng không phải bằng không.
  2. Lưu trữ bộ nhớ đệm tính theo giờ, thường quyết toán theo số token lưu trữ lớn nhất trong mỗi giờ đồng hồ.
  3. Bộ nhớ đệm là nỗ lực tối đa, không chắc chắn trúng; khi tỷ lệ trúng thấp, phí lưu trữ có thể vượt phần tiết kiệm được.

Cách để bộ nhớ đệm thực sự tiết kiệm là đặt nội dung ổn định ở đầu yêu cầu: câu lệnh hệ thống cố định, định nghĩa công cụ cố định, tiền tố tri thức cố định; đặt dấu thời gian, ID ngẫu nhiên, biệt danh người dùng, kết quả truy xuất động ở cuối. Nếu nghiệp vụ vốn dĩ mỗi yêu cầu hoàn toàn khác nhau, nên tắt bộ nhớ đệm trước, quan sát hóa đơn rồi quyết định.

4. Chọn trực tuyến, theo lô hay gói thông lượng

Volcengine Ark cung cấp nhiều phương thức suy luận với giá và tình huống phù hợp khác nhau:

  • Suy luận trực tuyến tính sau theo token: phù hợp nghiệp vụ lưu lượng không chắc chắn, yêu cầu độ trễ bình thường; không gọi không thu phí, người dùng mới thường có hạn mức miễn phí có thể trừ.
  • Suy luận theo lô: phù hợp gán nhãn ngoại tuyến, kiểm duyệt nội dung, tóm tắt hàng loạt… những việc không yêu cầu trả về tức thời; giá thường thấp hơn nhưng không hỗ trợ trừ hạn mức miễn phí.
  • Gói thông lượng TPM: phù hợp nghiệp vụ production có lưu lượng dự đoán được và cần thông lượng ổn định; mua theo ngày hoặc theo giờ, không gọi vẫn thu phí.
  • Đơn vị mô hình: cung cấp tài nguyên tính toán độc quyền, phù hợp mô hình tinh chỉnh hoặc tình huống có nhu cầu đồng thời đặc biệt; thuộc chi phí cố định.

Khi chọn đừng chỉ so đơn giá. Suy luận theo lô rẻ nhưng độ trễ kết quả cao; gói thông lượng ổn định nhưng lúc nhàn rỗi vẫn tốn tiền. Chia nghiệp vụ thành hai loại "thời gian thực/ngoại tuyến" và "lưu lượng có dự đoán được hay không", rồi ghép với phương thức tính phí, thường hiệu quả hơn chỉ đổi mô hình.

5. Dùng trường usage để ước tính thực tế một lần

Đừng đoán token theo số chữ. Sau mỗi lần gọi hãy ghi lại usage trong phản hồi; quan sát liên tục một tuần sẽ có cấu trúc thật của nghiệp vụ.

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["ARK_API_KEY"],
    base_url="https://ark.cn-beijing.volces.com/api/v3",
)

resp = client.chat.completions.create(
    model=os.environ["ARK_ENDPOINT_ID"],  # ID điểm truy cập suy luận hoặc ID mô hình, theo bảng điều khiển
    messages=[
        {"role": "system", "content": "Bạn là trợ lý chăm sóc khách hàng, trả lời không quá ba câu."},
        {"role": "user", "content": "Sau khi đơn hàng đã gửi, có thể đổi địa chỉ không?"},
    ],
)

print(resp.usage)  # Ghi lại các trường đầu vào, đầu ra và bộ nhớ đệm

Ước tính theo thứ tự sau:

  1. Cố định cách ghi: thời gian, dự án, mô hình, token đầu vào, token đầu ra, trúng bộ nhớ đệm, có streaming hay không, số lần thử lại.
  2. Lấy mẫu một tuần, tính đầu vào trung bình và đầu ra trung bình của từng tình huống, đừng dùng giá trị trung bình toàn hệ thống.
  3. Tính chi phí một lần theo "đầu vào × đơn giá đầu vào + đầu ra × đơn giá đầu ra", phần trúng bộ nhớ đệm tính riêng theo đơn giá thấp hơn.
  4. Nhân với lượng gọi trung bình mỗi ngày, rồi nhân 30 để có phí suy luận hàng tháng.
  5. Cộng các khoản cố định như lưu trữ bộ nhớ đệm, tác vụ theo lô, gói thông lượng hoặc đơn vị mô hình.
  6. Dự phòng một phần để bù thử lại, giờ cao điểm và điều chỉnh giá.
  7. Mỗi tháng dùng hóa đơn suy ngược một lần, sửa lại mô hình ước tính.

Nếu phản hồi không trả về trường chi tiết bộ nhớ đệm, hãy ghi tổng đầu vào và tổng đầu ra, rồi suy ngược từ hóa đơn hoặc trang mức sử dụng. Điều quan trọng là cách ghi phải nhất quán, đừng trộn dữ liệu từ các cửa vào và ngày khác nhau để so sánh.

6. Đừng đảo thứ tự kiểm soát chi phí

  1. Định lượng trước: tách cấu trúc token thật theo dự án, mô hình, tình huống, tìm ba lần gọi tốn kém nhất.
  2. Tăng tỷ lệ trúng bộ nhớ đệm: đặt tiền tố ổn định lên đầu, giảm nội dung động, quan sát thay đổi tỷ lệ trúng.
  3. Giảm đầu vào: truy xuất chỉ lấy các đoạn liên quan, tóm tắt tin nhắn lịch sử, kết quả công cụ chỉ giữ trường cần thiết.
  4. Giới hạn đầu ra: đặt max_tokens hợp lý, yêu cầu JSON hoặc trường cố định, giảm giải thích lặp lại.
  5. Phân luồng mô hình: phân loại, trích xuất, viết lại dùng mô hình nhẹ; suy luận phức tạp mới nâng cấp.
  6. Chuyển tác vụ ngoại tuyến sang lô: tác vụ không yêu cầu trả về tức thời đưa vào suy luận theo lô, tránh giờ cao điểm.
  7. Cuối cùng mới bàn đơn giá: đầu vào chưa được quản trị, bộ nhớ đệm không trúng thì đổi sang mô hình rẻ hơn cũng không giảm được.

7. Quản lý ngân sách và hóa đơn thế nào

  • Mỗi dự án một Key, tách thử nghiệm và production để tránh chiếm dụng hạn mức của nhau.
  • Đặt hạn mức chi tiêu và cảnh báo số dư cho Key, kịp thời cắt lỗ khi gọi bất thường.
  • Đối soát hàng tuần theo "dự án, mô hình, tình huống", tìm lần gọi tăng nhanh nhất.
  • Ghi riêng phần tiết kiệm từ bộ nhớ đệm, theo lô và phân luồng mô hình, nếu không sẽ không chứng minh được tối ưu có hiệu quả.
  • Đội cần thanh toán bằng nhân dân tệ, hóa đơn và hóa đơn VAT thống nhất có thể dùng ZSQH AI Gateway tương thích OpenAI; giá và cách tính phí lấy giá mô hình làm chuẩn.

Câu hỏi thường gặp

Doubao API có hạn mức miễn phí không?

Suy luận trực tuyến thường có hạn mức miễn phí cho người dùng mới, có thể trừ vào mức tiêu thụ tính sau theo token; suy luận theo lô và tinh chỉnh thường không hỗ trợ trừ hạn mức miễn phí. Hạn mức và thời hạn hiệu lực lấy bảng điều khiển Volcengine Ark làm chuẩn.

Vì sao lưu trữ bộ nhớ đệm cũng thu phí?

Bộ nhớ đệm cần chiếm tài nguyên lưu trữ phía máy chủ, nên ngoài phí token trúng đệm còn tính phí theo lượng lưu trữ và thời gian. Khi tỷ lệ trúng thấp, hãy tối ưu cấu trúc tiền tố trước, khi cần thì tắt bộ nhớ đệm.

Suy luận theo lô có chắc chắn rẻ hơn không?

Đơn giá token của suy luận theo lô thường thấp hơn, nhưng kết quả không trả về tức thời và không hỗ trợ hạn mức miễn phí. Phù hợp tác vụ ngoại tuyến, không phù hợp chăm sóc khách hàng trực tuyến yêu cầu độ trễ thấp.

Yêu cầu thử lại có bị tính phí không?

Chỉ cần máy chủ hoàn thành suy luận và sinh token, thường sẽ tính phí, kể cả khi máy khách không nhận được kết quả do hết thời gian. Yêu cầu thất bại có bị tính phí hay không lấy hóa đơn và hướng dẫn của nhà cung cấp làm chuẩn; logic thử lại phải có lùi thời gian và giới hạn.

Vì sao tự ước tính và hóa đơn không khớp?

Các khoản thường bị bỏ sót gồm tin nhắn lịch sử, định nghĩa công cụ, quy đổi đa phương thức, lưu trữ bộ nhớ đệm, yêu cầu thử lại và phí cố định của gói thông lượng. Đối chiếu mã yêu cầu với log mức sử dụng mới xác định được chênh lệch.

Bước tiếp theo

Trước tiên hãy tạo Key thử nghiệm trên ZSQH AI Gateway, chạy một tuần với tác vụ thật, ghi lại đầu vào, đầu ra và tỷ lệ trúng bộ nhớ đệm, rồi quy đổi ngân sách theo giá mô hình. Khả năng cung cấp và giá của mô hình lấy trang giá làm chuẩn.

Bài viết liên quan: