Kart gerekmez. Kayıt olduktan sonra, tek tıkla (kişi başı bir kez) $0,50 ücretsiz deneme kredisi talep edebilirsiniz.
API anahtarı alTemel noktalar
- Maliyet = input tokenlar / 1.000.000 x $0,15 + output tokenlar / 1.000.000 x $0,50.
- 400 tokenlık bir yanıt içeren tipik bir 1.500 tokenlık istem, $0,000425'e mal olur; bu nedenle $20, yaklaşık 47.000 böyle isteği karşılar.
- Sohbet geçmişi her adımda yeniden gönderilir, bu nedenle input tokenlar çoğu kişinin beklentisinden daha hızlı artar.
- API, kesin token sayılarını ve bakiyenizi döndürür, böylece herhangi bir tahmini doğrulayabilirsiniz.
Formül
Bu API'deki her istek iki sayaçtan faturalandırılır, başka hiçbir şeyden değil:
maliyet = input_tokenlar / 1.000.000 x 0,15 + output_tokenlar / 1.000.000 x 0,50
Input tokenlar, gönderdiğiniz her şeydir: sistem istemi, sohbet geçmişi, yapıştırılan belgeler ve fonksiyon tanımları. Output tokenlar, modelin geri yazdığı şeydir. Oranlar 1M input token başına $0,15 ve 1M output token başına $0,50'dir. Output oranı, input oranının üç katından biraz fazladır, bu nedenle uzun bir yanıt, aynı boyuttaki uzun bir istemden daha fazla ağırlığa sahiptir.
Ne abonelik ne de kullanıcı başı ücret vardır. Ön ödemeli krediden harcarsınız ve kredi asla sona ermez. Başarısız veya reddedilen istekler faturalandırılmaz, bu nedenle hesaplamanız yalnızca başarılı olan istekleri kapsamalıdır.
Elle kontrol edilebilecek çözümlemeli örnekler
İşte formülden hesaplanmış beş yaygın iş. Kendi iş yükünüzü yerleştirmek için bunları birer çapa olarak kullanın.
| Görev | Girdi | Çıktı | Giriş maliyeti | Çıktı maliyeti | Toplam |
|---|---|---|---|---|---|
| Kısa sohbet yanıtı | 2.000 | 500 | $0,0003 | $0,00025 | $0,00055 |
| Destek botu yanıtı | 1.500 | 400 | $0,000225 | $0,0002 | $0,000425 |
| Hikaye bölümü | 1.000 | 3.000 | $0,00015 | $0,0015 | $0,00165 |
| Uzun belge özeti | 80.000 | 2.000 | $0,012 | $0,001 | $0,013 |
| Pencereye neredeyse tam sığan | 98.000 | 2.000 | $0,0147 | $0,001 | $0,0157 |
Desen kolayca görülür. Kısa işler, bir kuruşun çok küçük bir kısmına mal olur. 100.000 tokenlık pencereyi neredeyse dolduran bir istek bile iki kuruşun altında kalır. Biriken şey boyut değil, hacimdir.
Destek botu satırını ele alın. İstek başına $0,000425 ile, $20 kredi yaklaşık 47.000 isteği karşılar ($20 / $0,000425 = 47.058). Ayda 30.000 böyle istek işlerseniz, fatura 30.000 x $0,000425 = $12,75 olur.
Yapıştırabileceğiniz bir hesaplayıcı
Bunun için bir web formuna ihtiyacınız yok. Birkaç satır kod işi halleder ve kendi araçlarınızın içine yerleşebilir.
Python
INPUT_PER_M = 0.15
OUTPUT_PER_M = 0.50
def cost_usd(input_tokens: int, output_tokens: int) -> float:
return (input_tokens / 1_000_000) * INPUT_PER_M + (output_tokens / 1_000_000) * OUTPUT_PER_M
def requests_per_budget(budget_usd: float, input_tokens: int, output_tokens: int) -> int:
return int(budget_usd / cost_usd(input_tokens, output_tokens))
print(f"{cost_usd(1500, 400):.6f}") # 0.000425
print(requests_per_budget(20, 1500, 400)) # 47058JavaScript
const IN_PER_M = 0.15;
const OUT_PER_M = 0.5;
const costUsd = (inputTokens, outputTokens) =>
(inputTokens / 1e6) * IN_PER_M + (outputTokens / 1e6) * OUT_PER_M;
console.log(costUsd(80000, 2000).toFixed(4)); // 0.0130Kendi ortalama değerlerinizi kullanın. Henüz bilmiyorsanız, yüz gerçek istek gönderin ve son bölümde gösterildiği gibi dönen token sayılarını ortalamaya çıkarın.
Input ve output ağırlıklı iş yükleri
İki oran farklıdır, bu nedenle işinizin şekli, büyüklüğü kadar önemlidir. Aynı sayıda, her biri 10.000 istek içeren iki iş yükünü karşılaştırın.
- Sınıflandırma. Her istek 3.000 token gönderir (talimatlar ve etiketlenecek bir metin) ve 20 token alır. İstek başına maliyet: 3.000 / 1.000.000 x $0,15 = $0,00045, artı 20 / 1.000.000 x $0,50 = $0,00001, yani $0,00046. 10.000 istek için bu $4,60 eder.
- Üretme. Her istek 300 token gönderir ve 2.000 token alır. İstek başına maliyet: input için $0,000045, output için $0,001, yani $0,001045. 10.000 istek için bu $10,45 eder.
Üretme işi, inputun onda birini gönderir ve yine de faturada output tokenlar baskın olduğu için iki katından daha fazla maliyet yaratır. Yazma araçları için, mümkün olduğunda yanıt uzunluğunu sınırlandırın. Çıkarma ve etiketleme işleri için, istemi ve tekrarlanan talimatları küçültün.
Toplu bir iş, baştan sona
Diyelim ki her biri yaklaşık 6.000 token içeren 500 belgeyi işlemek istiyorsunuz ve her biri için 500 token'lık bir özet oluşturmak istiyorsunuz. Girdi: 500 x 6.000 = 3.000.000 token, bu da 3 x $0,15 = $0,45'e mal olur. Çıktı: 500 x 500 = 250.000 token, bu da 0,25 x $0,50 = $0,125'e mal olur. Tüm toplu işlem $0,575'e mal olur. Tam anahtarla aynı anda 8 isteği çalıştırabilirsiniz, bu nedenle iş de hızlı tamamlanır; deneme anahtarı aynı anda 2'ye izin verir.
Tahminlerin nerede yanlış yaptığı: artan geçmişi
Bir maliyet tahminindeki en yaygın hata, sohbeti bağımsız mesajlar serisi olarak işlemektir. Bu öyle değildir. Bir sohbet modelinin hafızası yoktur, bu nedenle her adım, o ana kadarki tüm konuşmayı yeniden gönderir. Faturanın input tarafı, her adımla birlikte büyür.
İşte somut bir örnek. Bir rol yapma oturumu 500 token'lık bir sistem istemine sahiptir. Her adımda kullanıcı 100 token yazar ve model 300 token ile yanıt verir. 20 adım boyunca, n. adım için girdi 500 + 400 x (n - 1) + 100 token'dır.
- 1. adım 600 token gönderir, 2. adım 1.000 gönderir, 20. adım 8.200 gönderir.
- 20 adım boyunca toplam input: 20 x 600 + 400 x (0 + 1 + ... + 19) = 12.000 + 400 x 190 = 88.000 token.
- Toplam output: 20 x 300 = 6.000 token.
- Maliyet: 88.000 / 1.000.000 x $0,15 = $0,0132, artı 6.000 / 1.000.000 x $0,50 = $0,003, yani $0,0162.
Yalnızca yeni tokenları (2.000 input, 6.000 output) naifçe saymış olsaydınız, $0,0033 tahmin etmiş olurdunuz. Gerçek rakam bunun neredeyse beş katıdır. Çözüm basittir: tahmininizde geçmişi modelleyin veya eski adımları keserek sınırlandırın. Her iki durumda da, uzun sohbetlerde izlenmesi gereken input satırıdır.
Sayıyı düşürmenin ucuz yolları
Tahmin beğenmediğinizden yüksek görünüyorsa, yalnızca birkaç kolu vardır ve her biri doğrudan formüle karşılık gelir.
- Sistem istemini kısaltın. Her çağrıda faturalandırılır. 100.000 istekte toplamından 2.000 token kesmek, 200.000.000 girdi token'ı veya 200 x $0,15 = $30 değerinde girdi token'ı kaldırır.
- Geçmişi kırpın. Tüm log yerine son birkaç adımı ve kısa bir devam eden özeti tutun.
max_tokensayarlayın. Bu, daha yüksek orana sahip output tarafını sınırlandırır.- Daha az bağlam gönderin. Tüm dosya yerine ilgili iki paragrafı getirin.
Bunların hiçbiri farklı bir model veya farklı bir plan gerektirmez. Bunlar kendi istemlerinize yapılan düzenlemelerdir.
İstek başına maliyeti bütçeye dönüştürme
Tipik bir istek için maliyeti öğrendiğinizde planlama çarpım işlemidir. Üç sayı yazın: günlük istek sayısı, ortalama girdi token'ları, ortalama çıktı token'ları. Yukarıdaki fonksiyonu kullanarak günlük maliyeti hesaplayın, ardından sonucu 30 ile çarpın.
Bakiye yükleme için yararlı sayılar bunlardır. $20 ile $500 arasındaki her tam miktar çalışır. Bonus, daha büyük miktarlarda kredi ekler: $50'den +%5, $52,50 verir; $100'den +%10, $110 verir; ve $200'den +%15, $230 verir. Token başına oran asla değişmez, aynı ödeme için daha fazla kredi alırsınız. Kripto (TRC20 üzerinde USDT, Base üzerinde USDC) ile ödeme yapabilirsiniz.
Bir marj koruyun. Gerçek trafik ortalamalardan daha topaktır ve aniden uzun belgeler gönderen tek bir özellik, input tokenlarınızı iki katına çıkarabilir. Fiyatlandırma sayfası güncel oranları ve bakiye yükleme seçeneklerini tek bir yerde sunar.
Aylık bir projeksiyon
Bir destek asistanının günde 2.000 konuşma yönettiğini, her biri için bir istek yaptığını ve tabloda belirtilen 1.500 token girdi ve 400 token çıktı profiline sahip olduğunu varsayalım. Günlük maliyet 2.000 x $0,000425 = $0,85'tir. 30 günlük bir ayda bu $25,50 eder. +%5 bonus taşıyan ve $52,50 kredi veren $50 bakiye yükleme, bu hızda iki aydan biraz fazla sürer. Bir bakiye yükleme miktarı seçmeden önce toplamayı kendi ortalama değerlerinizle yeniden hesaplayın ve büyüme payını ekleyin.
Tahmininizi gerçek sayılarla karşılaştırın
Bir tahmin, girdileri kadar iyi değildir, bu nedenle ölçün. Her yanıt gerçek istem ve tamamlama token sayılarını içeren bir usage nesnesi içerir. Yanıt başlıkları ayrıca isteğin ardından kalan ön ödemeli kredinizi gösteren X-Balance-USD başlığını da içerir; bu da maliyeti kuruş kuruş doğrulamanıza olanak tanır.
from openai import OpenAI
client = OpenAI(base_url="https://api.llmtokenprices.com/v1", api_key="YOUR_API_KEY")
raw = client.chat.completions.with_raw_response.create(
model="uncensored",
messages=[{"role": "user", "content": "Write two sentences about the sea."}],
)
r = raw.parse()
print("balance:", raw.headers.get("X-Balance-USD"))
print(r.usage.prompt_tokens, r.usage.completion_tokens)Temsilî bir istek grubu çalıştırın, kullanım verilerini toplayın ve bakiye düşüşüyle karşılaştırın. İki sonuç eşleşirse hesap makineniz doğrudur ve planlamayı onunla yapabilirsiniz. Henüz bir anahtarınız yoksa, API anahtarı sayfası kayıt sonrası $0,50 deneme kredisi sunar; bu test için fazlasıyla yeterlidir. Kurulum detayları hızlı başlangıç sayfasındadır.
