TH ▾

เครื่องคำนวณต้นทุนโทเคน LLM: สูตรและตัวอย่างการคำนวณ

เครื่องคำนวณต้นทุนโทเคน LLM ต้องการเพียงสองตัวเลขต่อคำขอ คือ input tokens และ output tokens รวมถึงสองอัตราค่าใช้งานคือ $0.15 และ $0.50 ต่อ 1M โทเคน หน้าเว็บนี้ให้สูตร โค้ดสำหรับคัดลอกและวาง และตัวอย่างการคำนวณที่คุณสามารถตรวจสอบด้วยตนเอง

อัปเดต

เครื่องคำนวณแบบกระจกพร้อมแท่งโทเคนเรืองแสงวางซ้อนกันบนเครื่องชั่ง

ไม่ต้องใช้บัตร หลังสมัคร ให้รับเครดิตทดลองใช้ฟรี $0.50 ด้วยคลิกเดียว (หนึ่งครั้งต่อคน)

รับคีย์ API

ประเด็นสำคัญ

  • ค่าใช้จ่าย = จำนวนโทเคนอินพุต / 1,000,000 x $0.15 + จำนวนโทเคนเอาต์พุต / 1,000,000 x $0.50
  • พรอมต์ขนาด 1,500 โทเคนพร้อมคำตอบขนาด 400 โทเคน มีต้นทุน $0.000425 ดังนั้นเงิน $20 สามารถครอบคลุมคำขอประมาณ 47,000 แบบดังกล่าว
  • ประวัติแชทจะถูกส่งใหม่ในทุกเทิร์น ทำให้ input tokens เพิ่มขึ้นเร็วกว่าที่หลายคนคาดคิด
  • API คืนค่าจำนวนโทเคนที่แน่นอนและยอดคงเหลือของคุณ ทำให้คุณสามารถตรวจสอบการประมาณการใดๆ ได้

สูตรคำนวณ

ทุกคำขอบน API นี้จะถูกเรียกเก็บเงินจากตัวนับสองตัว และไม่มีอย่างอื่น:

ค่าใช้จ่าย = input_tokens / 1,000,000 x 0.15 + output_tokens / 1,000,000 x 0.50

โทเคนอินพุตคือทุกอย่างที่คุณส่งไป: พรอมต์ระบบ, ประวัติแชท, เอกสารที่วางลง และคำจำกัดฟังก์ชัน โทเคนเอาต์พุตคือสิ่งที่โมเดลเขียนตอบกลับ อัตราคือ $0.15 ต่อ 1M โทเคนอินพุต และ $0.50 ต่อ 1M โทเคนเอาต์พุต เอาต์พุตมีอัตราสูงกว่าอินพุตประมาณสามเท่า ดังนั้นการตอบที่ยาวจึงมีน้ำหนักมากกว่าพรอมต์ที่ยาวขนาดเดียวกัน

ไม่มีค่าสมัครสมาชิกและไม่มีราคาต่อที่นั่ง คุณใช้เครดิตแบบเติมเงินล่วงหน้า และเครดิตไม่หมดอายุ คำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่ถูกเรียกเก็บเงิน ดังนั้นการคำนวณของคุณจึงต้องครอบคลุมเฉพาะคำขอที่สำเร็จเท่านั้น

ตัวอย่างการคำนวณที่คุณสามารถตรวจสอบด้วยตนเอง

นี่คืองานทั่วไปห้าอย่าง ซึ่งคำนวณจากสูตร ใช้เป็นจุดอ้างอิงเพื่อวางภาระงานของคุณเอง

งานอินพุตเอาต์พุตต้นทุน inputต้นทุน outputรวม
การตอบแชทแบบสั้น2,000500$0.0003$0.00025$0.00055
คำตอบของบอทสนับสนุน1,500400$0.000225$0.0002$0.000425
บทนิยาย1,0003,000$0.00015$0.0015$0.00165
สรุปเอกสารยาว80,0002,000$0.012$0.001$0.013
หน้าต่างเกือบเต็ม98,0002,000$0.0147$0.001$0.0157

รูปแบบนี้เห็นได้ชัดเจน งานสั้นๆ มีค่าใช้จ่ายเพียงเศษเสี้ยวของเซ็นต์ แม้แต่คำขอที่เติมหน้าต่าง 100,000 โทเคนเกือบเต็มก็ยังมีค่าใช้จ่ายต่ำกว่าสองเซ็นต์ สิ่งที่สะสมคือปริมาณ ไม่ใช่ขนาด

ดูแถวบอทสนับสนุน ตัวอย่างเช่น ที่ $0.000425 ต่อคำขอ เครดิต $20 สามารถจ่ายสำหรับคำขอประมาณ 47,000 คำขอ ($20 / $0.000425 = 47,058) หากคุณจัดการคำขอประเภทนี้ 30,000 คำขอต่อเดือน บิลคือ 30,000 x $0.000425 = $12.75

เครื่องคำนวณที่คุณสามารถวางได้

คุณไม่จำเป็นต้องใช้เว็บฟอร์มสำหรับสิ่งนี้ โค้ดเพียงไม่กี่บรรทัดก็ทำได้และสามารถอยู่ภายในเครื่องมือของคุณเองได้

Python

INPUT_PER_M = 0.15
OUTPUT_PER_M = 0.50

def cost_usd(input_tokens: int, output_tokens: int) -> float:
    return (input_tokens / 1_000_000) * INPUT_PER_M + (output_tokens / 1_000_000) * OUTPUT_PER_M

def requests_per_budget(budget_usd: float, input_tokens: int, output_tokens: int) -> int:
    return int(budget_usd / cost_usd(input_tokens, output_tokens))

print(f"{cost_usd(1500, 400):.6f}")           # 0.000425
print(requests_per_budget(20, 1500, 400))     # 47058

JavaScript

const IN_PER_M = 0.15;
const OUT_PER_M = 0.5;

const costUsd = (inputTokens, outputTokens) =>
  (inputTokens / 1e6) * IN_PER_M + (outputTokens / 1e6) * OUT_PER_M;

console.log(costUsd(80000, 2000).toFixed(4)); // 0.0130

แทนที่ด้วยค่าเฉลี่ยของคุณเอง หากคุณยังไม่ทราบค่าเหล่านี้ ให้ส่งคำขอจริง 100 คำขอและหาค่าเฉลี่ยของจำนวนโทเคนที่ส่งกลับ ตามที่แสดงในส่วนสุดท้าย

งานที่มีอินพุตหนักและเอาต์พุตหนัก

อัตราทั้งสองแตกต่างกัน ดังนั้นรูปแบบงานของคุณจึงสำคัญเท่ากับขนาด เปรียบเทียบงานสองชุดที่มีจำนวนคำขอเท่ากัน คือ 10,000 คำขอ

  • การจัดประเภท แต่ละคำขอส่ง 3,000 โทเคน (คำสั่งพร้อมข้อความที่ต้องการจัดประเภท) และได้รับ 20 โทเคนกลับ ค่าใช้จ่ายต่อคำขอ: 3,000 / 1,000,000 x $0.15 = $0.00045 บวก 20 / 1,000,000 x $0.50 = $0.00001 ดังนั้น $0.00046 สำหรับ 10,000 คำขอคือ $4.60
  • การสร้างเนื้อหา แต่ละคำขอส่ง 300 โทเคนและได้รับ 2,000 โทเคนกลับ ค่าใช้จ่ายต่อคำขอ: $0.000045 สำหรับอินพุต บวก $0.001 สำหรับเอาต์พุต ดังนั้น $0.001045 สำหรับ 10,000 คำขอคือ $10.45

งานสร้างเนื้อหาส่งอินพุตเพียงหนึ่งในสิบแต่ยังมีค่าใช้จ่ายมากกว่าสองเท่า เพราะโทเคนเอาต์พุตเป็นปัจจัยหลักของบิล สำหรับเครื่องมือเขียนข้อความ ให้จำกัดความยาวของการตอบกลับเท่าที่จะทำได้ สำหรับงานการสกัดข้อมูลและการจัดประเภท ให้ลดขนาดพรอมต์และคำสั่งที่ซ้ำกัน

งานแบบแบทช์ ตั้งแต่เริ่มต้นจนเสร็จสิ้น

สมมติว่าคุณต้องการประมวลผลเอกสาร 500 ฉบับ แต่ละฉบับมีขนาดประมาณ 6,000 โทเคน และคุณต้องการสรุปย่อขนาด 500 โทเคนสำหรับแต่ละฉบับ อินพุต: 500 x 6,000 = 3,000,000 โทเคน ซึ่งมีค่าใช้จ่าย 3 x $0.15 = $0.45 เอาต์พุต: 500 x 500 = 250,000 โทเคน ซึ่งมีค่าใช้จ่าย 0.25 x $0.50 = $0.125 แบทช์ทั้งหมดมีค่าใช้จ่าย $0.575 ด้วยคีย์เต็มรูปแบบ คุณสามารถรันคำขอได้ 8 คำขอพร้อมกัน ดังนั้นงานจึงเสร็จสิ้นอย่างรวดเร็ว คีย์ทดลองอนุญาตให้รันได้ 2 คำขอต่อครั้ง

จุดที่การประมาณการคลาดเคลื่อน: ประวัติที่เพิ่มขึ้น

ข้อผิดพลาดที่พบบ่อยที่สุดในการประมาณการค่าใช้จ่ายคือการมองการแชทเป็นชุดของข้อความที่เป็นอิสระต่อกัน ไม่ใช่เช่นนั้น โมเดลแชทไม่มีหน่วยความจำ ดังนั้นทุกการสนทนาจะส่งการสนทนาทั้งหมดจนถึงเวลานั้นกลับ อินพุตของบิลจะเพิ่มขึ้นตามทุกการสนทนา

นี่คือกรณีที่เป็นรูปธรรม เซสชันบทบาทสมมติมีพรอมต์ระบบขนาด 500 โทเคน ทุกการสนทนาผู้ใช้เขียน 100 โทเคนและโมเดลตอบกลับด้วย 300 โทเคน ตลอด 20 การสนทนา อินพุตสำหรับการสนทนาที่ n คือ 500 + 400 x (n - 1) + 100 โทเคน

  • การสนทนาที่ 1 ส่ง 600 โทเคน การสนทนาที่ 2 ส่ง 1,000 โทเคน การสนทนาที่ 20 ส่ง 8,200 โทเคน
  • อินพุตรวมตลอด 20 การสนทนา: 20 x 600 + 400 x (0 + 1 + ... + 19) = 12,000 + 400 x 190 = 88,000 โทเคน
  • เอาต์พุตรวม: 20 x 300 = 6,000 โทเคน
  • ค่าใช้จ่าย: 88,000 / 1,000,000 x $0.15 = $0.0132 บวก 6,000 / 1,000,000 x $0.50 = $0.003 รวมเป็น $0.0162

หากคุณนับเฉพาะโทเคนใหม่แบบหยาบๆ (2,000 อินพุต, 6,000 เอาต์พุต) คุณอาจเดาว่า $0.0033 แต่ตัวเลขจริงคือเกือบห้าเท่าของจำนวนนั้น วิธีแก้ไขคือการทำแบบจำลองประวัติในการประมาณการ หรือจำกัดประวัติโดยการตัดการสนทนาเก่าออก ไม่ว่าวิธีใด บรรทัดอินพุตคือส่วนที่ต้องเฝ้าระวังในการสนทนาที่ยาว

วิธีประหยัดเพื่อลดจำนวน

หากตัวเลขประมาณการดูสูงกว่าที่คุณต้องการ มีเพียงไม่กี่ปัจจัยที่ต้องปรับ และแต่ละปัจจัยสอดคล้องกับสูตรโดยตรง

  1. ลดความยาวของพรอมต์ระบบ พรอมต์ระบบจะถูกคิดค่าในทุกการเรียก การตัด 2,000 โทเคนออกจากพรอมต์นี้ตลอด 100,000 คำขอ จะลบโทเคนอินพุตออก 200,000,000 โทเคน หรือคิดเป็น 200 x $0.15 = $30
  2. ตัดประวัติออก เก็บการสนทนาไม่กี่รอบล่าสุดพร้อมกับสรุปย่อแบบต่อเนื่องแทนที่จะเก็บบันทึกทั้งหมด
  3. ตั้งค่า max_tokens ค่านี้จะจำกัดฝั่ง output ซึ่งคิดอัตราค่าสูงกว่า
  4. ส่งบริบทน้อยลง ดึงสองย่อหน้าที่เกี่ยวข้องแทนที่จะเป็นทั้งไฟล์

วิธีการเหล่านี้ไม่จำเป็นต้องใช้โมเดลหรือแพ็กเกจที่แตกต่างออกไป เป็นการแก้ไขที่พรอมต์ของคุณเอง

การเปลี่ยนต้นทุนต่อคำขอเป็นงบประมาณ

เมื่อทราบต้นทุนของคำขอทั่วไปหนึ่งครั้ง การวางแผนคือการคูณ เขียนตัวเลขสามตัวลงบนกระดาษ: จำนวนคำขอต่อวัน, จำนวน input token เฉลี่ย, และจำนวน output token เฉลี่ย คำนวณต้นทุนรายวันด้วยฟังก์ชันด้านบน จากนั้นคูณด้วย 30

สำหรับยอดเติมเงิน ตัวเลขที่มีประโยชน์คือจำนวนเต็มตั้งแต่ $20 ถึง $500 สามารถใช้ได้ทั้งหมด ส่วนเครดิตโบนัสจะเพิ่มในยอดที่สูงขึ้น: +5% จาก $50 ได้ $52.50, +10% จาก $100 ได้ $110 และ +15% จาก $200 ได้ $230 อัตราต่อโทเคนไม่เปลี่ยนแปลง คุณเพียงได้รับเครดิตมากขึ้นสำหรับการชำระเงินจำนวนเท่าเดิม สามารถชำระเงินด้วยคริปโต (USDT บน TRC20, USDC บน Base)

เก็บส่วนเกินไว้ การใช้งานจริงมีความไม่สม่ำเสมอมากกว่าค่าเฉลี่ย และฟีเจอร์เดียวที่ส่งเอกสารยาวๆ ทันทีอาจทำให้จำนวน input token ของคุณเพิ่มขึ้นเป็นสองเท่า หน้า ราคา แสดงอัตราปัจจุบันและตัวเลือกการเติมเงินในที่เดียว

การประมาณการรายเดือน

สมมติว่าผู้ช่วยฝ่ายสนับสนุนจัดการ 2,000 การสนทนาต่อวัน การสนทนาละหนึ่งคำขอ โดยใช้โปรไฟล์อินพุต 1,500 โทเคนและเอาต์พุต 400 โทเคนจากตาราง ค่าใช้จ่ายรายวันคือ 2,000 x $0.000425 = $0.85 ตลอด 30 วันจะเป็น $25.50 การเติมเงิน $50 ซึ่งได้รับโบนัส +5% และให้เครดิต $52.50 จะใช้งานได้เกินสองเดือนในอัตราดังกล่าว คำนวณใหม่ด้วยค่าเฉลี่ยของคุณเองและเพิ่มระยะเผื่อสำหรับการเติบโตก่อนเลือกจำนวนเติมเงิน

ตรวจสอบการประมาณการของคุณกับตัวเลขจริง

การประมาณการจะดีเท่าข้อมูลนำเข้า ดังนั้นจึงต้องวัดค่า ทุก response จะมี object usage ที่มีจำนวนโทเคนของ prompt และ completion จริง ส่วน response headers ยังรวม X-Balance-USD ซึ่งเป็นเครดิตคงเหลือของคุณหลังจากคำขอ ซึ่งช่วยให้คุณยืนยันต้นทุนได้จนถึงหลักเซ็นต์

from openai import OpenAI

client = OpenAI(base_url="https://api.llmtokenprices.com/v1", api_key="YOUR_API_KEY")

raw = client.chat.completions.with_raw_response.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Write two sentences about the sea."}],
)
r = raw.parse()
print("balance:", raw.headers.get("X-Balance-USD"))
print(r.usage.prompt_tokens, r.usage.completion_tokens)

รันชุดคำขอที่เป็นตัวแทน เพิ่มยอดการใช้งานและเปรียบเทียบกับยอดที่ลดลง หากทั้งสองตรงกัน เครื่องคิดเลขของคุณถูกต้องและสามารถวางแผนได้ หากยังไม่มีคีย์ API หน้าคีย์ API ให้เครดิตทดลองใช้ $0.50 หลังจากเข้าสู่ระบบ ซึ่งเพียงพอสำหรับการทดสอบนี้ รายละเอียดการตั้งค่าอยู่ในquickstart

ถาม-ตอบ

มีค่าสมัครสมาชิกหรือค่าธรรมเนียมรายเดือนหรือไม่

ไม่ คุณจ่ายตามการใช้งานจากเครดิตแบบเติมเงินล่วงหน้าที่อัตรา $0.15 ต่อ 1M โทเคนอินพุต และ $0.50 ต่อ 1M โทเคนเอาต์พุต

คำขอที่ล้มเหลวมีการคิดเงินหรือไม่?

ไม่ คำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่ถูกเรียกเก็บเงิน

เครดิตหมดอายุหรือไม่?

ไม่ เครดิตไม่หมดอายุ และไม่มีบริการแบบสมัครสมาชิก

โบนัสเปลี่ยนการคำนวณอย่างไร

โบนัสเป็นการเพิ่มเครดิต ไม่ใช่การลดอัตราการใช้งาน การเติมเงิน $100 จะได้เครดิต $110 การเติมเงิน $200 จะได้เครดิต $230 และราคาต่อโทเคนยังคงเดิม

คีย์ของคุณอยู่ห่างแค่แบบฟอร์มเดียว

สร้างบัญชี คัดลอกคีย์ และเปลี่ยน base URL นั่นคือการตั้งค่าทั้งหมด

รับคีย์ API