Geen kaart nodig. Na registratie claim je met één klik $0,50 gratis proeftegoed (eenmaal per persoon).
API-sleutel aanvragenBelangrijkste punten
- Voor Engelse tekst geeft het aantal karakters gedeeld door vier een bruikbare tokenschat. Tel er 20% bij op als veiligheidsmarge.
- Tel alles wat je verstuurt: system prompt, volledige chatgeschiedenis, documenten en tool-definities.
- Prompt plus completion moeten in het 100.000-token contextvenster passen, dus controleer de som voordat je verstuurt.
- Gebruik max_tokens om een plafond te leggen aan de output-kant van de kosten.
De snelle schatting
Je wilt een aantal weten voordat je op verzenden drukt, omdat het aantal aangeeft of het verzoek past en ongeveer wat het kost. De afkorting voor Engels proza is:
- tokens zijn ongeveer karakters gedeeld door 4, of
- tokens zijn ongeveer woorden vermenigvuldigd met 1,33.
Een prompt van 12.000 karakters is dus ongeveer 3.000 tokens. Een pagina van 500 woorden is ongeveer 670. Dit zijn gemiddelden. Ze wijken af voor andere talen, broncode en tekst vol getallen of symbolen, die allemaal meer tokens per karakter gebruiken dan gewone Engels. Beschouw het resultaat als een planningsfiguur en voeg een marge van ongeveer 20% toe.
Die marge maakt van de schatting een veilige bovengrens. Onze prompt van 12.000 karakters wordt 3.000 x 1,2 = 3.600 tokens voor planningsdoeleinden.
Wat telt mee in de telling
Mensen tellen te weinig omdat ze alleen de laatste gebruikersboodschap meten. Het model ziet veel meer, en elk onderdeel wordt gefactureerd als input. Tel alles bij elkaar op:
- De system prompt. Als je daar een lange persona of style guide bijhoudt, betaal je daarvoor bij elke call.
- De volledige conversatiegeschiedenis. De API onthoudt eerdere beurten niet. Je stuurt ze opnieuw, dus ze tellen elke keer weer mee.
- Documenten en opgehaalde snippets die je in de prompt plakt.
- Tool-definities en JSON-schemas als je tool calling of een gestructureerd outputformaat gebruikt. Ze reizen mee met het verzoek, dus reken mee dat ze als input tellen.
- Kleine formatteringskosten voor message roles. Het zijn slechts een paar tokens per bericht, maar de marge van 20% dekt dit.
Aan de output-kant is er maar één item: het antwoord. Je hebt de lengte er niet exact onder controle, maar je kunt het afkappen, wat ons bij de volgende sectie brengt.
Tokens tellen met een kleine functie
Hier is een korte Python-helper. Het schat de prompt op basis van alle berichttekst, past de marge toe en retourneert een worst-case kosten op basis van de max_tokens die je van plan bent in te stellen.
import math
INPUT_PER_M = 0.15
OUTPUT_PER_M = 0.50
WINDOW = 100_000
def plan(messages, max_tokens, margin=1.2):
chars = sum(len(m["content"]) for m in messages)
prompt = math.ceil(chars / 4 * margin)
if prompt + max_tokens > WINDOW:
raise ValueError(f"too big: {prompt} + {max_tokens} > {WINDOW}")
worst = prompt / 1_000_000 * INPUT_PER_M + max_tokens / 1_000_000 * OUTPUT_PER_M
return prompt, worst
messages = [{"role": "user", "content": "x" * 12_000}]
print(plan(messages, max_tokens=800)) # (3600, 0.00094)Geef het de prompt van 12.000 karakters van eerder mee met max_tokens=800 en je krijgt 3.600 tokens input en een worst case van 3.600 / 1.000.000 x $0,15 + 800 / 1.000.000 x $0,50 = $0,00054 + $0,0004 = $0,00094. Minder dan een tiende cent, met het plafond van tevoren bekend.
Een chatverzoek geschat in stappen
Neem een typische chatcall en loop het door met de regel. De system prompt is 800 karakters. De geschiedenis bevat zes eerdere berichten met gemiddeld 600 karakters elk, wat 3.600 is. Het nieuwe gebruikersbericht is 400 karakters.
- Totaal karakters: 800 + 3.600 + 400 = 4.800.
- Ruwe schatting: 4.800 / 4 = 1.200 tokens.
- Met de marge van 20%: 1.200 x 1,2 = 1.440 tokens.
- Stel
max_tokensin op 500 voor het antwoord. - Worst-case kosten: 1.440 / 1.000.000 x $0,15 = $0,000216, plus 500 / 1.000.000 x $0,50 = $0,00025, dus $0,000466.
De window-check is hier triviaal, 1.440 + 500 is ver onder de 100.000. Dezelfde methode schaleert naar batchtaken. Voor 2.000 documenten van elk 6.000 karakters is één document 1.500 tokens, of 1.800 met de marge. Dat is 3.600.000 input tokens, ter waarde van $0,54. Met een cap van 200 output tokens per stuk voeg je 400.000 tokens toe, ter waarde van $0,20, voor een plafond van $0,74 voor de hele batch. Je kent het maximum voordat het eerste verzoek je machine verlaat.
Wanneer de vuistregel het zwakst is
De regel van vier karakters is gebouwd op Engels proza. Tekst in andere talen, broncode, tabellen, lange getallen en emoji splitsen zich vaak in kleinere stukken, dus de werkelijke telling ligt hoger dan de schatting. Voor die inputs verhoog je de marge naar 30 of 40 procent bij je eerste poging, en vervang je daarna de schatting door een verhouding gemeten uit je eigen gelogde gebruiksgegevens.
Binnen het 100.000-token contextvenster blijven
Het contextvenster wordt gedeeld door de prompt en de completion. Dat maakt de check tot een som, geen enkele vergelijking: geschatte prompt plus het antwoord dat je toestaat moet 100.000 of minder zijn.
Een uitgewerkt geval. Je hebt een bestand van 300.000 karakters om te analyseren.
- Schatting: 300.000 / 4 = 75.000 tokens.
- Met de marge van 20%: 90.000 tokens.
- Resterende ruimte voor het antwoord: 100.000 - 90.000 = 10.000 tokens. Dat is genoeg voor een lange samenvatting, dus het past.
Probeer nu een bestand van 360.000 karakters. De ruwe schatting is 90.000 tokens, en met de marge is het 108.000, wat al boven de limiet is voordat je zelfs ruimte hebt gelaten voor een antwoord. Je moet het bestand splitsen, het in delen versturen, of elk deel samenvatten en de samenvattingen combineren.
Onthoud de regel ook voor chats. Omdat geschiedenis bij elke beurt opnieuw wordt verstuurd, kan een gesprek dat begon als een paar honderd tokens langzaam naar de limiet kruipen. Knip oude beurten, of vervang ze door een korte samenvatting, voordat de som dicht bij de limiet komt.
Geschiedenis knippen om het te laten passen
Wanneer de som te hoog wordt, verwijder je eerst de oudste beurten en houd je de system prompt. Loop terug vanaf het nieuwste bericht, tel elk bericht bij een lopende karaktersom op en stop wanneer de schatting plus je antwoordplafond de limiet bereikt die je jezelf hebt gesteld. Veel teams kiezen een werklimiet ver onder de 100.000, zoals 30.000 tokens, omdat kortere prompts sneller zijn om te verwerken en goedkoper om te versturen. Een korte samenvatting van de verwijderde beurten, één keer geschreven en bovenaan de geschiedenis bewaard, behoudt de draad van het gesprek zonder te betalen voor elk oud woord opnieuw.
Een plafond leggen aan het antwoord
Output tokens kosten $0,50 per 1M, iets meer dan drie keer het $0,15 inputtarief, en je kunt de antwoordlengte niet van tevoren weten. Wat je wel kunt doen, is max_tokens instellen. Het model stopt wanneer het het plafond bereikt, dus de output-kant van de rekening kan dat aantal tokens nooit overschrijden.
Kies het plafond uit de taak. Een classificatie of ja/nee-check heeft 10 tot 50 tokens nodig. Een paragraafantwoord heeft misschien 300 nodig. Een verhaalscène heeft misschien 2.000 nodig. Als je de parameter weglaat, kan de completion de rest van het venster gebruiken, wat prima is voor lang proza en verspillend voor korte antwoorden.
Een waarschuwing: een te klein plafond knipt een antwoord af in de midden van een zin. Kijk naar de finish_reason in de response. Als het aangeeft dat de output werd ingekort door lengte, verhoog dan het plafond of vraag het model om een korter antwoord.
Controleer de schatting tegen de werkelijke telling
Na elke call geeft de response je de werkelijke prompt- en completion-tokenaantallen in zijn usage blok. Gestreamde responses rapporteren usage aan het einde van de stream. Log deze naast je schatting gedurende een week en kijk naar de verhouding.
curl -i https://api.llmtokenprices.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"max_tokens": 100,
"messages": [{"role": "user", "content": "Say hello in five words."}]
}'De -i flag print de response headers, inclusief X-Balance-USD. Vergelijk het saldo voor en na een batch van calls en het zou moeten overeenkomen met de kosten berekend uit de usage-getallen.
Als je schattingen consistent te laag uitkomen, zeg maar 15%, verhoog dan de marge. Talen anders dan Engels en code-zware prompts hebben meestal een hogere marge nodig. De werkelijke cijfers laten je een keer afstellen en je kunt stoppen met zorgen maken.
Waar je nu naartoe kunt
Zodra je een verzoek kunt dimensioneren, is de volgende stap het omzetten naar een budget. De prijzenpagina geeft de tarieven en de top-up bonussen, en de quickstart toont het verzoekformaat in verschillende talen. Als je nog geen call hebt gedaan, krijg je een sleutel op de API key pagina; de one-click $0,50 trial credit is genoeg om je eerste dozijn schattingen tegen de realiteit te testen.
