VI ▾

Máy tính chi phí token LLM: Công thức và ví dụ minh họa

Công cụ tính chi phí token LLM chỉ cần hai số cho mỗi yêu cầu: token đầu vào và token đầu ra, cùng hai tỷ lệ giá: $0,15 và $0,50 cho mỗi 1 triệu. Trang này cung cấp công thức, mã nguồn sao chép-dán và các ví dụ minh họa để bạn tự kiểm tra bằng tay.

Cập nhật

Máy tính kính với các khối token phát sáng xếp chồng vào một cái cân

Không cần thẻ. Sau khi đăng ký, nhận $0,50 tín dụng dùng thử miễn phí bằng một cú nhấp chuột (một lần mỗi người).

Lấy khóa API

Điểm chính

  • Chi phí = (token đầu vào / 1.000.000 x $0,15) + (token đầu ra / 1.000.000 x $0,50).
  • Một prompt 1.500 token kèm phản hồi 400 token tốn $0,000425, vì vậy $20 sẽ chi trả khoảng 47.000 yêu cầu như vậy.
  • Lịch sử chat được gửi lại ở mỗi lượt, nên số token đầu vào tăng nhanh hơn nhiều người dự kiến.
  • API trả về số lượng token chính xác và số dư của bạn, nên bạn có thể xác minh mọi ước tính.

Công thức

Mọi yêu cầu trên API này được tính phí từ hai bộ đếm, và không có gì khác:

chi phí = token_đầu_vào / 1.000.000 x 0,15 + token_đầu_ra / 1.000.000 x 0,50

Token đầu vào là mọi thứ bạn gửi: prompt hệ thống, lịch sử chat, tài liệu dán vào và định nghĩa công cụ. Token đầu ra là những gì mô hình viết lại. Tỷ lệ giá là $0,15 cho mỗi 1 triệu token đầu vào và $0,50 cho mỗi 1 triệu token đầu ra. Đầu ra cao hơn đầu vào hơn ba lần, nên một phản hồi dài sẽ tốn kém hơn một prompt dài có cùng kích thước.

Không có phí đăng ký và không có giá cho mỗi ghế. Bạn sử dụng dần tín dụng trả trước, và tín dụng không bao giờ hết hạn. Các yêu cầu thất bại hoặc bị từ chối không bị tính phí, nên phép tính của bạn chỉ cần bao gồm các yêu cầu thành công.

Các ví dụ minh họa bạn có thể kiểm tra bằng tay

Dưới đây là năm tác vụ phổ biến, mỗi tác vụ được tính từ công thức. Hãy dùng chúng làm điểm tựa để ước lượng khối lượng công việc của riêng bạn.

Nhiệm vụĐầu vàoĐầu raChi phí đầu vàoChi phí đầu raTổng cộng
Phản hồi chat ngắn2.000500$0,0003$0,00025$0,00055
Câu trả lời bot hỗ trợ1.500400$0,000225$0,0002$0,000425
Chương truyện1.0003.000$0,00015$0,0015$0,00165
Tóm tắt tài liệu dài80.0002.000$0,012$0,001$0,013
Gần đầy cửa sổ ngữ cảnh98.0002.000$0,0147$0,001$0,0157

Mô hình rất dễ nhận ra. Các tác vụ ngắn tốn một phần nhỏ của một cent. Ngay cả một yêu cầu gần lấp đầy cửa sổ 100.000 token cũng chỉ tốn dưới hai cent. Điều tích lũy là khối lượng, không phải kích thước.

Hãy xem hàng bot hỗ trợ. Với giá $0,000425 cho mỗi yêu cầu, $20 tín dụng chi trả khoảng 47.000 yêu cầu ($20 / $0,000425 = 47.058). Nếu bạn xử lý 30.000 yêu cầu như vậy mỗi tháng, hóa đơn là 30.000 x $0,000425 = $12,75.

Một công cụ tính toán bạn có thể dán

Bạn không cần biểu mẫu web cho việc này. Vài dòng mã nguồn là đủ và có thể nằm trong công cụ của riêng bạn.

Python

INPUT_PER_M = 0.15
OUTPUT_PER_M = 0.50

def cost_usd(input_tokens: int, output_tokens: int) -> float:
    return (input_tokens / 1_000_000) * INPUT_PER_M + (output_tokens / 1_000_000) * OUTPUT_PER_M

def requests_per_budget(budget_usd: float, input_tokens: int, output_tokens: int) -> int:
    return int(budget_usd / cost_usd(input_tokens, output_tokens))

print(f"{cost_usd(1500, 400):.6f}")           # 0.000425
print(requests_per_budget(20, 1500, 400))     # 47058

JavaScript

const IN_PER_M = 0.15;
const OUT_PER_M = 0.5;

const costUsd = (inputTokens, outputTokens) =>
  (inputTokens / 1e6) * IN_PER_M + (outputTokens / 1e6) * OUT_PER_M;

console.log(costUsd(80000, 2000).toFixed(4)); // 0.0130

Thay thế bằng các giá trị trung bình của bạn. Nếu bạn chưa biết chúng, hãy gửi một trăm yêu cầu thực tế và tính trung bình số token trả về, như phần cuối cùng đã minh họa.

Khối lượng công việc nặng về đầu vào và nặng về đầu ra

Hai tỷ lệ tính phí khác nhau, vì vậy hình dạng công việc của bạn quan trọng như kích thước của nó. So sánh hai khối lượng công việc với cùng số lượng yêu cầu, mỗi loại 10.000.

  • Phân loại. Mỗi yêu cầu gửi 3.000 token (chỉ dẫn cộng với văn bản cần gán nhãn) và nhận lại 20 token. Chi phí mỗi yêu cầu: (3.000 / 1.000.000 x $0,15) + (20 / 1.000.000 x $0,50) = $0,00045 + $0,00001, tức $0,00046. Với 10.000 yêu cầu, tổng là $4,60.
  • Tạo văn bản. Mỗi yêu cầu gửi 300 token và nhận lại 2.000. Chi phí mỗi yêu cầu: $0,000045 cho đầu vào cộng $0,001 cho đầu ra, tức $0,001045. Với 10.000 yêu cầu, tổng là $10,45.

Công việc tạo nội dung gửi đi một phần mười đầu vào nhưng vẫn tốn nhiều hơn gấp đôi, vì token đầu ra chiếm phần lớn hóa đơn. Đối với công cụ viết, hãy giới hạn độ dài phản hồi ở mức có thể. Đối với công việc trích xuất và gán nhãn, hãy thu nhỏ prompt và các hướng dẫn lặp lại thay vì vậy.

Một tác vụ hàng loạt, từ đầu đến cuối

Giả sử bạn cần xử lý 500 tài liệu, mỗi tài liệu khoảng 6.000 token, và bạn muốn một bản tóm tắt 500 token cho mỗi tài liệu. Đầu vào: 500 x 6.000 = 3.000.000 token, tốn 3 x $0,15 = $0,45. Đầu ra: 500 x 500 = 250.000 token, tốn 0,25 x $0,50 = $0,125. Toàn bộ lô tốn $0,575. Với khóa đầy đủ, bạn có thể chạy 8 yêu cầu cùng lúc, nên công việc cũng hoàn thành nhanh chóng; khóa dùng thử cho phép 2 yêu cầu cùng lúc.

Nơi ước tính sai: lịch sử tăng dần

Lỗi phổ biến nhất trong ước tính chi phí là coi chat là chuỗi các tin nhắn độc lập. Không phải vậy. Mô hình chat không có bộ nhớ, nên mỗi lượt sẽ gửi lại toàn bộ cuộc hội thoại từ đầu. Phần đầu vào của hóa đơn tăng lên theo mỗi lượt.

Đây là một trường hợp cụ thể. Phiên nhập vai có prompt hệ thống 500 token. Mỗi lượt, người dùng viết 100 token và mô hình trả lời 300 token. Trong 20 lượt, đầu vào cho lượt n là 500 + 400 x (n - 1) + 100 token.

  • Lượt 1 gửi 600 token, lượt 2 gửi 1.000, lượt 20 gửi 8.200.
  • Tổng đầu vào qua 20 lượt: 20 x 600 + 400 x (0 + 1 + ... + 19) = 12.000 + 400 x 190 = 88.000 token.
  • Tổng đầu ra: 20 x 300 = 6.000 token.
  • Chi phí: (88.000 / 1.000.000 x $0,15) + (6.000 / 1.000.000 x $0,50) = $0,0132 + $0,003, tổng cộng $0,0162.

Nếu bạn chỉ đếm ngây thơ các token mới (2.000 vào, 6.000 ra), bạn sẽ ước tính $0,0033. Con số thực tế cao gấp gần năm lần. Giải pháp đơn giản: mô hình hóa lịch sử trong ước tính của bạn, hoặc giới hạn nó bằng cách cắt bớt các lượt cũ. Dù bằng cách nào, dòng đầu vào là thứ bạn cần theo dõi trong các cuộc hội thoại dài.

Các cách rẻ để giảm con số

Nếu ước tính có vẻ cao hơn mức bạn muốn, chỉ có một vài yếu tố điều chỉnh, và mỗi yếu tố đều ánh xạ trực tiếp vào công thức.

  1. Rút ngắn prompt hệ thống. Nó được tính phí trên mỗi lệnh gọi. Cắt 2.000 token khỏi nó trên 100.000 yêu cầu loại bỏ 200.000.000 token đầu vào, hoặc 200 x $0,15 = $30.
  2. Cắt lịch sử. Giữ lại vài lượt gần nhất cộng với tóm tắt ngắn thay vì toàn bộ nhật ký.
  3. Đặt max_tokens. Nó giới hạn phần đầu ra, nơi có tỷ lệ giá cao hơn.
  4. Gửi ít ngữ cảnh hơn. Truy xuất hai đoạn liên quan thay vì toàn bộ tệp.

Không cần mô hình khác hay gói dịch vụ khác cho những việc này. Chúng là các chỉnh sửa trong prompt của chính bạn.

Chuyển chi phí mỗi yêu cầu thành ngân sách

Khi đã biết chi phí của một yêu cầu điển hình, việc lập kế hoạch chỉ là phép nhân. Hãy ghi lại ba số: yêu cầu mỗi ngày, token đầu vào trung bình, token đầu ra trung bình. Tính chi phí hàng ngày bằng hàm trên, sau đó nhân với 30.

Với các khoản nạp tiền, các số hữu ích là những số sau. Mọi số nguyên từ $20 đến $500 đều được. Bonus thêm tín dụng cho các số lớn hơn: +5% từ $50 cho $52,50, +10% từ $100 cho $110, và +15% từ $200 cho $230. Tỷ lệ trên mỗi token không bao giờ thay đổi, bạn chỉ nhận được nhiều tín dụng hơn cho cùng một khoản thanh toán. Bạn có thể thanh toán bằng tiền mã hóa (USDT trên TRC20, USDC trên Base).

Giữ một khoản dự phòng. Lưu lượng thực tế không đều như giá trị trung bình, và một tính năng đột ngột gửi tài liệu dài có thể làm gấp đôi token đầu vào của bạn. Trang giá cả có các tỷ lệ giá hiện tại và tùy chọn nạp tiền trong một nơi.

Dự báo hàng tháng

Giả sử trợ lý hỗ trợ xử lý 2.000 cuộc hội thoại mỗi ngày, mỗi cuộc một yêu cầu, với hồ sơ 1.500 token đầu vào và 400 token đầu ra từ bảng. Chi phí hàng ngày là 2.000 x $0,000425 = $0,85. Trong một tháng 30 ngày, tổng là $25,50. Một khoản nạp $50, kèm bonus +5% cho $52,50 tín dụng, sẽ kéo dài hơn hai tháng ở tốc độ đó. Hãy tính lại tổng với các giá trị trung bình của bạn và thêm khoản dự phòng cho sự tăng trưởng trước khi chọn số tiền nạp.

Kiểm tra ước tính của bạn với các số thực tế

Một ước tính chỉ tốt như các đầu vào của nó, nên hãy đo lường. Mọi phản hồi đều bao gồm đối tượng usage với số lượng token prompt và hoàn thành thực tế. Các tiêu đề phản hồi cũng bao gồm X-Balance-USD, số tín dụng còn lại của bạn sau yêu cầu, cho phép bạn xác nhận chi phí đến từng cent.

from openai import OpenAI

client = OpenAI(base_url="https://api.llmtokenprices.com/v1", api_key="YOUR_API_KEY")

raw = client.chat.completions.with_raw_response.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Write two sentences about the sea."}],
)
r = raw.parse()
print("balance:", raw.headers.get("X-Balance-USD"))
print(r.usage.prompt_tokens, r.usage.completion_tokens)

Chạy một lô các yêu cầu đại diện, cộng các số liệu sử dụng và so sánh với sự sụt giảm số dư. Nếu hai số khớp, công cụ tính toán của bạn chính xác và bạn có thể lập kế hoạch với nó. Nếu bạn chưa có khóa, trang khóa API cung cấp $0,50 tín dụng dùng thử sau khi đăng ký, đủ cho thử nghiệm này. Chi tiết thiết lập có trong hướng dẫn nhanh.

Hỏi đáp

Có phí đăng ký hoặc phí hàng tháng không?

Không. Bạn trả tiền theo mức sử dụng từ tín dụng trả trước với giá $0,15 cho mỗi 1M token đầu vào và $0,50 cho mỗi 1M token đầu ra.

Yêu cầu thất bại có bị tính phí không?

Không. Các yêu cầu thất bại hoặc bị từ chối không bị tính phí.

Tín dụng có hết hạn không?

Không. Tín dụng không bao giờ hết hạn và không có phí đăng ký.

Các khoản thưởng thay đổi tính toán như thế nào?

Các khoản thưởng thêm tín dụng, không phải giảm giá trên tỷ lệ. Nạp tiền $100 cho bạn $110 tín dụng, nạp $200 cho bạn $230, và giá trên mỗi token vẫn giữ nguyên.

Khóa của bạn chỉ cách một biểu mẫu

Tạo tài khoản, sao chép khóa, thay đổi URL cơ sở. Đó là toàn bộ thiết lập.

Lấy khóa API