Chi phí prompt LLM API: Quản lý token của bạn
Giá là $0.15 cho mỗi 1 triệu token đầu vào và $0.50 cho mỗi 1 triệu token đầu ra. Dưới đây là cách chuyển đổi chúng thành ngân sách cho các prompt của bạn.
Cập nhật

Điểm chính
- Một lệnh gọi prompt với 600 token đầu vào và 400 token đầu ra tốn $0.00029; 1.000 lệnh gọi tốn $0.29.
- Token đầu ra có giá cao gấp 3 và một phần ba lần so với token đầu vào.
- Lịch sử hội thoại được gửi lại ở mỗi lượt, nên hội thoại dài tốn nhiều hơn mỗi lượt so với hội thoại ngắn.
- Tín dụng trả trước từ $20 không bao giờ hết hạn; có tín dụng dùng thử $0.50 nhưng không có gói miễn phí.
Câu trả lời ngắn gọn, kèm số liệu
Trên API này, chi phí prompt LLM rất dễ xác định: $0.15 cho mỗi 1 triệu token đầu vào và $0.50 cho mỗi 1 triệu token đầu ra. Một lệnh gọi mở rộng prompt điển hình với 600 token đầu vào và 400 token đầu ra tốn $0.00029, nghĩa là 1.000 lệnh gọi như vậy tốn $0.29. Không có gói đăng ký và không có mức tối thiểu hàng tháng. Bạn thanh toán từ tín dụng trả trước và tín dụng không bao giờ hết hạn.
Phần còn lại của bài viết này cho bạn cách chuyển từ hai mức giá đó sang một ngân sách đáng tin cậy: cách đếm token, chi phí thực sự của các cuộc hội thoại dài, những gì một khoản nạp tiền mua được và nơi có thể cắt giảm prompt. Mọi số liệu dưới đây đều được tính từ hai mức giá này và phép tính được hiển thị để bạn có thể tự tính lại với số liệu của mình.
| Nhiệm vụ | Token đầu vào | Token đầu ra | Chi phí mỗi lệnh gọi |
|---|---|---|---|
| Mở rộng prompt | 600 | 400 | $0.00029 |
| Prompt hệ thống dài, phản hồi ngắn | 2,100 | 300 | $0.000465 |
| Tài liệu lớn trong cửa sổ 100k | 80,000 | 2,000 | $0.013 |
Cách token thành tiền đô la
Hóa đơn LLM có hai dòng. Token đầu vào là mọi thứ bạn gửi: thông báo hệ thống, các lượt hội thoại trước đó, bất kỳ tài liệu nào được dán vào và câu hỏi mới. Token đầu ra là những gì mô hình viết lại. Chi phí đầu ra cao hơn mỗi token ở đây, $0.50 so với $0.15 cho mỗi triệu, nên mỗi token đầu ra có giá gấp 3,33 lần token đầu vào. Một câu trả lời dài đắt hơn một câu hỏi dài có cùng độ dài.
Đối với một lệnh gọi đơn lẻ, công thức là:
cost = input_tokens x 0.15 / 1,000,000 + output_tokens x 0.50 / 1,000,000
Là quy tắc ước lượng cho văn bản tiếng Anh, một token tương đương khoảng bốn ký tự hoặc ba phần tư từ. Prompt 300 từ tương đương khoảng 400 token. Đây chỉ là ước tính. Code, số và văn bản không phải tiếng Anh thường tốn nhiều token hơn trên mỗi từ, nên hãy đo một mẫu thực tế trước khi lên kế hoạch cho dự án lớn.
Cách dễ nhất để đo là hỏi API. Mọi phản hồi đều chứa đối tượng usage với số lượng token prompt và hoàn tất, và phản hồi truyền phát gửi thông tin sử dụng ở cuối luồng. Chạy hai mươi yêu cầu đại diện, lấy trung bình hai số và nhân lên.
Ví dụ minh họa: mở rộng prompt
Hãy lấy một tác vụ viết prompt tạo video từ văn bản dựa trên một ý tưởng ngắn. Thông báo hệ thống cộng với ý tưởng chiếm 600 token đầu vào, và câu trả lời là 400 token.
- Đầu vào: 600 x $0.15 / 1,000,000 = $0.00009
- Đầu ra: 400 x $0,50 / 1.000.000 = $0,0002
- Tổng cộng mỗi lệnh gọi: $0.00029
Nhân lên:
- 1.000 lệnh gọi: $0.29
- 10.000 lệnh gọi: $2.90
- 100.000 lệnh gọi: $29.00
Nói cách khác, tín dụng dùng thử $0,50 đủ để thực hiện khoảng 1.724 yêu cầu này (0,50 / 0,00029 = 1.724,1), và khoản nạp tiền $20 đủ để thực hiện khoảng 69.000 yêu cầu. Đối với các nhóm nhỏ và dự án cá nhân, chi phí cho các prompt hiếm khi là phần tốn kém nhất trong ngân sách. Công cụ xử lý các prompt thường tốn kém hơn nhiều.
Tín dụng dùng thử là $0.50, có hiệu lực trong 7 ngày, được nhận bằng một cú nhấp chuột trên trang khóa API sau khi đăng ký, mỗi người một lần. Nó không cần thẻ. Không có gói miễn phí định kỳ nào ngoài điều đó, nên hãy chuẩn bị tín dụng trả trước khi thời gian dùng thử kết thúc.
Tại sao các cuộc hội thoại dài tốn nhiều chi phí hơn bạn mong đợi
Sử dụng theo phong cách chat là nơi các ước lượng thường sai lệch. API không có trạng thái, nên với mỗi lượt mới, bạn phải gửi lại toàn bộ cuộc trò chuyện. Đầu vào tăng lên theo mỗi lượt ngay cả khi mọi tin nhắn đều ngắn.
Giả sử một cuộc hội thoại có thông báo hệ thống 500 token. Ở mỗi lượt, người dùng viết 100 token và mô hình trả lời bằng 300 token. Lượt 1 gửi 600 token. Lượt 2 gửi 600 cộng với 400 từ lượt 1, tức là 1.000. Mỗi lượt sau thêm 400 nữa.
- Đầu vào qua 10 lượt: 10 x 600 + 400 x (0 + 1 + ... + 9) = 6.000 + 400 x 45 = 24.000 token
- Đầu ra qua 10 lượt: 10 x 300 = 3.000 token
- Chi phí đầu vào: 24.000 x $0.15 / 1.000.000 = $0.0036
- Chi phí đầu ra: 3.000 x $0.50 / 1.000.000 = $0.0015
- Tổng cộng cho cuộc trò chuyện mười lượt: $0,0051
Điều đó tương đương khoảng nửa xu cho cả một cuộc trò chuyện. Số tiền ít quan trọng hơn cấu trúc: lượt 10 tốn nhiều hơn nhiều so với lượt 1, và tổng đầu vào tăng theo bình phương số lượt. Kéo dài cùng một cuộc trò chuyện sang 100 lượt và đầu vào trở thành 100 x 600 + 400 x 4.950 = 2.040.000 token, tương đương $0.306. 30.000 token đầu ra cộng thêm $0.015, tổng cộng là $0.321. Gấp mười lần lượt, chi phí tăng khoảng 63 lần.
Nếu việc sử dụng của bạn là hội thoại dài hoặc nhập vai, hãy quyết định khi nào cắt hoặc tóm tắt các lượt cũ. Thay thế 80 lượt đầu bằng bản tóm tắt 500 token có thể thu nhỏ mọi yêu cầu sau đó và cũng giữ cuộc hội thoại trong cửa sổ 100.000 token.
Một yêu cầu lớn trong cửa sổ 100k
Trường hợp đối lập là một yêu cầu khổng lồ: một bản thảo dài, một tệp nhật ký, một bộ bản ghi. Cửa sổ ngữ cảnh là 100.000 token cho cả prompt và kết quả cộng lại, vì vậy đầu vào lớn nhất để lại rất ít dung lượng cho đầu ra. Một tác vụ với 80.000 token đầu vào và 2.000 token đầu ra có chi phí:
- Đầu vào: 80.000 x $0.15 / 1.000.000 = $0.012
- Đầu ra: 2.000 x $0,50 / 1.000.000 = $0,001
- Tổng cộng: $0.013
Ngay cả một yêu cầu chiếm phần lớn cửa sổ ngữ cảnh cũng chỉ tốn khoảng một xu. Chi phí không phải là lý do để tránh đầu vào dài. Tốc độ và chất lượng mới là vấn đề: một prompt rất dài mất nhiều thời gian hơn để xử lý, và các sự thật ở giữa một đầu vào khổng lồ dễ bị bỏ qua bởi bất kỳ mô hình nào. Nếu câu trả lời phụ thuộc vào một vài đoạn văn, hãy gửi những đoạn văn đó.
Giới hạn phần thân yêu cầu là 8 MB mỗi lần, cao hơn nhiều so với dung lượng vừa trong cửa sổ token, nên số lượng token sẽ là giới hạn bạn chạm tới trước.
Một lần nạp tiền mua được gì
Tín dụng được mua theo số nguyên đô la từ $20 đến $500. Các khoản nạp tiền lớn hơn thêm tiền thưởng: 5% từ $50, 10% từ $100 và 15% từ $200.
| Bạn trả tiền | Tiền thưởng | Tín dụng đã thêm | Lệnh gọi mở rộng prompt (ở $0.00029) |
|---|---|---|---|
| $20 | không có | $20.00 | khoảng 69.000 |
| $50 | 5% = $2.50 | $52.50 | khoảng 181.000 |
| $100 | 10% = $10 | $110.00 | khoảng 379.000 |
| $200 | 15% = $30 | $230.00 | khoảng 793.000 |
Bạn có thể thanh toán bằng tiền mã hóa (USDT trên TRC20, USDC trên Base). Vì tín dụng không bao giờ hết hạn, bạn không bị phạt khi mua số lượng lớn và sử dụng chậm, và ưu đãi khiến lựa chọn đó hấp dẫn nếu bạn biết mình sẽ tiếp tục sử dụng API. Nếu chưa chắc chắn, hãy bắt đầu với $20. Tỷ giá hiện tại và biểu mẫu nạp tiền có trên trang giá cả.
Các yêu cầu bị lỗi hoặc bị từ chối không bị tính phí. Nếu một yêu cầu bị lỗi hoặc mô hình từ chối, bạn không phải trả tiền cho nó, điều này quan trọng khi bạn thử lại trong một vòng lặp.
Năm cách để giảm hóa đơn
Vì đầu vào là phần bạn kiểm soát được nhiều nhất, hãy bắt đầu từ đó.
- Cắt giảm thông báo hệ thống. Hãy lấy một tác vụ với thông báo hệ thống 2.000 token, một ý tưởng 100 token và câu trả lời 300 token. Đầu vào là 2.100 token, vì vậy yêu cầu tốn 2.100 x $0,15 / 1.000.000 + 300 x $0,50 / 1.000.000 = $0,000315 + $0,00015 = $0,000465. Với 10.000 yêu cầu, đó là $4,65. Cắt giảm thông báo hệ thống xuống còn 500 token và yêu cầu là 600 x $0,15 / 1.000.000 + $0,00015 = $0,00009 + $0,00015 = $0,00024, hoặc $2,40 cho 10.000 yêu cầu. Bạn tiết kiệm được $2,25.
- Giới hạn đầu ra. Đặt
max_tokensbằng độ dài bạn cần. Đây là tùy chọn, nhưng việc đặt trần giúp bạn tránh phản hồi dài vô hạn. - Yêu cầu dạng ngắn. "Chỉ trả lời prompt" loại bỏ phần mở đầu mà bạn phải trả tiền rồi xóa.
- Nhóm các câu hỏi nhỏ. Mười câu hỏi ngắn trong một yêu cầu chia sẻ một thông báo hệ thống thay vì lặp lại nó mười lần.
- Tóm tắt các lượt chat cũ. Như đã nêu ở trên, cách này làm phẳng đường cong tăng trưởng.
Không cần công cụ đặc biệt cho việc này. Kiểm tra là một kịch bản ghi lại usage từ mỗi phản hồi.
from openai import OpenAI
client = OpenAI(
base_url="https://api.veo3apis.com/v1",
api_key="YOUR_API_KEY",
)
IN_PRICE = 0.15 / 1_000_000
OUT_PRICE = 0.50 / 1_000_000
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Write a 70 word prompt for a rainy street scene."}],
max_tokens=200,
)
u = resp.usage
cost = u.prompt_tokens * IN_PRICE + u.completion_tokens * OUT_PRICE
print(u.prompt_tokens, u.completion_tokens, "tokens, about $%.6f" % cost)
Bạn cũng có thể theo dõi số dư trực tiếp: mỗi phản hồi bao gồm tiêu đề X-Balance-USD. Hãy ghi lại nó bên cạnh ID yêu cầu từ X-Request-Id và bạn có thể đối chiếu chi tiêu với số đếm của riêng mình. Để bắt đầu, hãy nhận tín dụng dùng thử trên trang khóa API và đọc tài liệu để xem danh sách đầy đủ các tham số.
Hướng dẫn khác
Hỏi đáp
Có gói miễn phí không?
Không. Người dùng mới có thể nhận một tín dụng dùng thử trị giá $0.50, có hiệu lực trong 7 ngày và không cần thẻ. Sau đó bạn sẽ thanh toán từ tín dụng trả trước.
Yêu cầu bị từ chối hoặc thất bại có tốn tiền không?
Không. Các yêu cầu thất bại hoặc bị từ chối không bị tính phí.
Tín dụng có hết hạn không?
Không. Tín dụng không bao giờ hết hạn và không có gói đăng ký.
Làm sao để biết chi phí của một yêu cầu?
Đọc đối tượng `usage` trong phản hồi để xem số lượng token và tiêu đề X-Balance-USD để biết số dư còn lại của bạn.
Khóa của bạn chỉ cách một biểu mẫu
Tạo tài khoản, sao chép khóa, thay đổi URL cơ sở. Đó là toàn bộ thiết lập.