PL ▾

Kalkulator kosztów tokenów LLM: Wzór i przykłady

Kalkulator kosztów tokenów LLM potrzebuje tylko dwóch liczb na zapytanie: tokenów wejściowych i tokenów wyjściowych oraz dwóch stawek: $0,15 i $0,50 za 1M. Ta strona podaje wzór, kod do skopiowania i przykłady, które możesz sprawdzić ręcznie.

Zaktualizowano

Szklany kalkulator z wieżami świecących się kostek tokenów zasilających wagę równowagi

Nie potrzeba karty. Po rejestracji zdobądź $0,50 darmowego kredytu próbnego jednym kliknięciem (raz na osobę).

Pobierz klucz API

Kluczowe punkty

  • Koszt = tokeny_wejściowe / 1 000 000 x $0,15 + tokeny_wyjściowe / 1 000 000 x $0,50.
  • Typowy prompt o 1500 tokenach z odpowiedzią 400-tokenową kosztuje $0,000425, więc $20 starcza na około 47 000 takich zapytań.
  • Historia czatu jest wysyłana ponownie przy każdej turze, więc liczba tokenów wejściowych rośnie szybciej, niż większość osób się spodziewa.
  • API zwraca dokładne liczniki tokenów i stan Twojego konta, więc możesz zweryfikować dowolną estymację.

Wzór

Każde zapytanie w tym API jest rozliczane z dwóch liczników, i niczego więcej:

koszt = tokeny_wejściowe / 1 000 000 x 0,15 + tokeny_wyjściowe / 1 000 000 x 0,50

Tokeny wejściowe to wszystko, co wysyłasz: prompt systemowy, historia czatu, wklejone dokumenty i definicje funkcji. Tokeny wyjściowe to to, co model zwraca. Stawki wynoszą $0,15 za 1 mln tokenów wejściowych i $0,50 za 1 mln tokenów wyjściowych. Wyjście jest nieco ponad trzykrotnie droższe od wejścia, więc długa odpowiedź waży więcej niż długi prompt o tej samej wielkości.

Brak jest subskrypcji ani opłaty za miejsce. Pobierasz środki z przedpłaconego kredytu, a kredyt nigdy nie wygasa. Nieudane lub odrzucone zapytania nie są rozliczane, więc Twoje obliczenia muszą uwzględniać tylko zapytania, które się powiodły.

Przykłady do samodzielnego sprawdzenia

Oto pięć powszechnych zastosowań, każde obliczone ze wzoru. Użyj ich jako punktów odniesienia do oszacowania własnego obciążenia.

ZadanieWejścieWyjścieKoszt wejściaKoszt wyjściaRazem
Krótka odpowiedź w czacie2 000500$0,0003$0,00025$0,00055
Odpowiedź bota wsparcia1 500400$0,000225$0,0002$0,000425
Rozdział opowieści1 0003 000$0,00015$0,0015$0,00165
Podsumowanie długiego dokumentu80 0002 000$0 012$0 001$0 013
Prawie pełne okno98 0002 000$0,0147$0 001$0,0157

Wzorzec jest łatwy do zauważenia. Krótkie zadania kosztują ułamek centa. Nawet zapytanie, które niemal wypełnia okno 100 000 tokenów, kosztuje mniej niż dwa centy. Sumuje się wolumen, a nie wielkość.

Weź wiersz bota wsparcia. Przy cenie $0,000425 za zapytanie, $20 kredytu starcza na około 47 000 zapytań ($20 / $0,000425 = 47 058). Jeśli obsługujesz 30 000 takich zapytań miesięcznie, rachunek wynosi 30 000 x $0,000425 = $12,75.

Kalkulator, który możesz wkleić

Nie potrzebujesz do tego formularza internetowego. Kilka linijek kodu załatwia sprawę i można je umieścić we własnych narzędziach.

Python

INPUT_PER_M = 0.15
OUTPUT_PER_M = 0.50

def cost_usd(input_tokens: int, output_tokens: int) -> float:
    return (input_tokens / 1_000_000) * INPUT_PER_M + (output_tokens / 1_000_000) * OUTPUT_PER_M

def requests_per_budget(budget_usd: float, input_tokens: int, output_tokens: int) -> int:
    return int(budget_usd / cost_usd(input_tokens, output_tokens))

print(f"{cost_usd(1500, 400):.6f}")           # 0.000425
print(requests_per_budget(20, 1500, 400))     # 47058

JavaScript

const IN_PER_M = 0.15;
const OUT_PER_M = 0.5;

const costUsd = (inputTokens, outputTokens) =>
  (inputTokens / 1e6) * IN_PER_M + (outputTokens / 1e6) * OUT_PER_M;

console.log(costUsd(80000, 2000).toFixed(4)); // 0.0130

Podstaw swoje średnie. Jeśli ich jeszcze nie znasz, wyślij sto rzeczywistych zapytań i uśrednij zwrócone liczniki tokenów, jak pokazano w ostatniej sekcji.

Obciążenia zdominowane przez wejście i wyjście

Dwie stawki się różnią, więc kształt Twojego zadania ma znaczenie tak samo duże jak jego wielkość. Porównaj dwa obciążenia z tą samą liczbą zapytań, po 10 000 każde.

  • Klasyfikacja. Każde zapytanie wysyła 3000 tokenów (instrukcje plus tekst do oznaczenia) i zwraca 20 tokenów. Koszt na zapytanie: 3000 / 1 000 000 x $0,15 = $0,00045, plus 20 / 1 000 000 x $0,50 = $0,00001, więc $0,00046. Dla 10 000 zapytań daje to $4,60.
  • Generowanie. Każde zapytanie wysyła 300 tokenów i zwraca 2000. Koszt na zapytanie: $0,000045 za wejście plus $0,001 za wyjście, więc $0,001045. Dla 10 000 zapytań daje to $10,45.

Zadanie generacyjne wysyła jedną dziesiątą wejścia, a nadal kosztuje ponad dwa razy więcej, ponieważ tokeny wyjściowe dominują w rachunku. Dla narzędzi do pisania ogranicz długość odpowiedzi tam, gdzie możesz. Dla zadań ekstrakcji i etykietowania skróć prompt i powtarzane instrukcje.

Zadanie wsadowe, od początku do końca

Załóżmy, że musisz przetworzyć 500 dokumentów, każdy o wielkości około 6000 tokenów, i chcesz uzyskać 500-tokenowe streszczenie każdego. Wejście: 500 x 6000 = 3 000 000 tokenów, co kosztuje 3 x $0,15 = $0,45. Wyjście: 500 x 500 = 250 000 tokenów, co kosztuje 0,25 x $0,50 = $0,125. Cała partia kosztuje $0,575. Z pełnym kluczem możesz uruchomić 8 zapytań naraz, więc zadanie zakończy się również szybko; klucz próbny pozwala na 2 naraz.

Gdzie oszacowania się mylą: rosnąca historia

Najczęstszym błędem w oszacowaniu kosztu jest traktowanie czatu jako serii niezależnych wiadomości. Nie jest to prawda. Model czatu nie ma pamięci, więc każda tura wysyła ponownie całą dotychczasową rozmowę. Strona wejściowa rachunku rośnie z każdą turą.

Oto konkretny przypadek. Sesja roleplay ma 500-tokenowy prompt systemowy. Każda tura użytkownik pisze 100 tokenów, a model odpowiada 300 tokenami. Przez 20 tur, wejście dla tury n to 500 + 400 x (n - 1) + 100 tokenów.

  • Tura 1 wysyła 600 tokenów, tura 2 wysyła 1000, tura 20 wysyła 8200.
  • Całkowite wejście przez 20 tur: 20 x 600 + 400 x (0 + 1 + ... + 19) = 12 000 + 400 x 190 = 88 000 tokenów.
  • Całkowite wyjście: 20 x 300 = 6000 tokenów.
  • Koszt: 88 000 / 1 000 000 x $0,15 = $0,0132, plus 6000 / 1 000 000 x $0,50 = $0,003, dając $0,0162.

Gdybyś naiwnie policzył tylko nowe tokeny (2000 wejścia, 6000 wyjścia), oszacowałbyś koszt na $0,0033. Rzeczywista kwota jest prawie pięciokrotnie wyższa. Rozwiązanie jest proste: uwzględnij historię w swojej estymacji lub ogranicz ją, przycinając stare zwroty. W każdym razie linię wejścia należy obserwować w długich rozmowach.

Tanie sposoby na zmniejszenie liczby

Jeśli estymacja wydaje się wyższa, niż byś chciał, jest tylko kilka dźwigni, a każda z nich bezpośrednio przekłada się na wzór.

  1. Skróć prompt systemowy. Jest rozliczany przy każdym wywołaniu. Ocięcie 2000 tokenów z niego w 100 000 zapytaniach usuwa 200 000 000 tokenów wejściowych, czyli 200 x $0,15 = $30.
  2. Przytnij historię. Zachowaj ostatnie kilka zwrotów plus krótkie bieżące streszczenie zamiast całego dziennika.
  3. Ustaw max_tokens. Ogranicza to stronę wyjściową, która ma wyższą stawkę.
  4. Wyślij mniej kontekstu. Pobierz dwa odpowiednie akapity zamiast całego pliku.

Żaden z tych nie wymaga innego modelu ani innego planu. To edycje Twoich własnych promptów.

Przekształcenie kosztu na zapytanie w budżet

Gdy znasz koszt jednego typowego zapytania, planowanie to mnożenie. Zapisz trzy liczby: zapytania dziennie, średnia liczba tokenów wejściowych, średnia liczba tokenów wyjściowych. Oblicz koszt dzienny za pomocą powyższej funkcji, a następnie pomnóż przez 30.

Dla doładowań przydatne są te liczby. Działa dowolna kwota całkowita od $20 do $500. Bonus dodaje kredyt na większe kwoty: +5% od $50 daje $52,50, +10% od $100 daje $110, a +15% od $200 daje $230. Stawka za token nigdy się nie zmienia, po prostu otrzymujesz więcej kredytu za tę samą płatność. Możesz zapłacić kryptowalutami (USDT na TRC20, USDC na Base).

Zostaw margines. Rzeczywisty ruch jest bardziej nierówny niż średnia, a pojedyncza funkcja, która nagle wyśle długie dokumenty, może podwoić liczbę tokenów wejściowych. Na stronie z cenami znajdziesz aktualne stawki i opcje doładowania w jednym miejscu.

Miesięczna prognoza

Załóżmy, że asystent wsparcia obsługuje 2000 rozmów dziennie, jedno zapytanie każde, przy profilu 1500-tokenowego wejścia i 400-tokenowego wyjścia z tabeli. Koszt dzienny to 2000 x $0,000425 = $0,85. Przez 30-dniowy miesiąc jest to $25,50. Doładowanie $50, które niesie bonus +5% i daje $52,50 kredytu, starczyłoby na nieco ponad dwa miesiące w tym tempie. Przelicz sumę ze swoimi średnimi i dodaj margines na wzrost przed wyborem kwoty doładowania.

Sprawdź swoje oszacowanie wobec rzeczywistych liczb

Estymacja jest tylko tak dobra, jak jej dane wejściowe, więc mierz. Każda odpowiedź zawiera obiekt usage z rzeczywistymi licznikami tokenów promptu i uzupełnienia. Nagłówki odpowiedzi zawierają również X-Balance-USD, Twój pozostały kredyt po zapytaniu, co pozwala potwierdzić koszt do centa.

from openai import OpenAI

client = OpenAI(base_url="https://api.llmtokenprices.com/v1", api_key="YOUR_API_KEY")

raw = client.chat.completions.with_raw_response.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Write two sentences about the sea."}],
)
r = raw.parse()
print("balance:", raw.headers.get("X-Balance-USD"))
print(r.usage.prompt_tokens, r.usage.completion_tokens)

Wykonaj partię reprezentatywnych zapytań, zsumuj zużycie i porównaj je ze spadkiem salda. Jeśli wyniki się zgadzają, Twój kalkulator jest poprawny i możesz go użyć do planowania. Jeśli jeszcze nie masz klucza, strona klucz API oferuje $0,50 kredytu próbnego po rejestracji, co w zupełności wystarczy do tego testu. Szczegóły konfiguracji znajdziesz w poradniku szybkiego startu.

Pytania i odpowiedzi

Czy istnieje subskrypcja lub miesięczna opłata?

Nie. Płacisz za zużycie z przedpłaconego kredytu po $0,15 za 1M tokenów wejściowych i $0,50 za 1M tokenów wyjściowych.

Czy nieudane zapytania są rozliczane?

Nie. Nieudane lub odrzucone zapytania nie są rozliczane.

Czy kredyt wygasa?

Nie. Kredyt nigdy nie wygasa, a nie ma subskrypcji.

Jak bonusy zmieniają obliczenia?

Bonusy dodają kredyt, a nie rabat do stawki. Doładowanie za $100 daje $110 kredytu, doładowanie za $200 daje $230, a cena za token pozostaje bez zmian.

Twój klucz jest o jeden formularz stąd

Utwórz konto, skopiuj klucz, zmień bazowy URL. To cała konfiguracja.

Pobierz klucz API