카드가 필요 없습니다. 가입 후 한 번의 클릭으로 $0.50 무료 체험 크레딧을 받습니다(인당 한 번).
API 키 받기주요 포인트
- 영어 텍스트의 경우 문자 수를 4로 나누면 유용한 토큰 추정치가 나옵니다. 안전 마진으로 20%를 추가하세요.
- 보내는 모든 것을 세세요: 시스템 프롬프트, 전체 대화 기록, 문서, 도구 정의.
- 프롬프트와 완성본은 100,000-토큰 창에 맞춰야 하므로 전송 전 합계를 확인하세요.
- max_tokens를 사용하여 비용의 출력 측에 천장을 설정하세요.
빠른 추정치
보내기 전에 숫자를 확인해야 합니다. 그 숫자는 요청이 수용 가능한지, 그리고 대략 얼마가 들지 알려주기 때문입니다. 영어 텍스트의 경우 다음 단축키를 사용하세요:
- 토큰은 약 문자 수를 4로 나눈 값이거나,
- 토큰은 약 단어 수에 1.33을 곱한 값입니다.
따라서 12,000자 프롬프트는 약 3,000 토큰입니다. 500단어 페이지는 약 670 토큰입니다. 이는 평균치입니다. 다른 언어, 소스 코드, 숫자나 기호가 많은 텍스트는 일반 영어보다 문자당 토큰 사용량이 많으므로 값이 변동됩니다. 이 결과를 계획용 수치로 보고 약 20%의 여유분을 추가하세요.
이 마진은 추정치를 안전한 상한선으로 만듭니다. 12,000자의 프롬프트는 계획 목적으로 3,000 x 1.2 = 3,600 토큰이 됩니다.
계산에 포함되는 항목
사람들은 마지막 사용자 메시지만 측정하여 토큰을 적게 잡습니다. 모델은 그보다 훨씬 많은 것을 보며 모든 부분이 입력으로 청구됩니다. 다음을 모두 합산하세요:
- 시스템 프롬프트. 긴 페르소나나 스타일 가이드를 유지하면 모든 호출에서 요금이 부과됩니다.
- 전체 대화 기록. API는 이전 턴을 기억하지 않습니다. 다시 보내므로 매번 다시 계산됩니다.
- 프롬프트에 붙여넣는 문서 및 검색된 스니펫
- 함수 호출 또는 구조화된 출력 형식을 사용하는 경우 도구 정의 및 JSON 스키마. 요청과 함께 전송되므로 입력으로 계산되도록 계획하세요.
- 메시지 역할의 작은 포맷팅 오버헤드. 메시지당 몇 토큰이지만 20% 마진이 이를 커버합니다.
출력 측에는 단일 항목인 응답만 있습니다. 길이를 정확히 제어할 수는 없지만 제한할 수 있으므로 다음 섹션으로 넘어갑니다.
작은 함수로 토큰 세기
짧은 Python 헬퍼입니다. 모든 메시지 텍스트에서 프롬프트를 추정하고 마진을 적용한 후 계획할 max_tokens을 기반으로 최악의 경우 비용을 반환합니다.
import math
INPUT_PER_M = 0.15
OUTPUT_PER_M = 0.50
WINDOW = 100_000
def plan(messages, max_tokens, margin=1.2):
chars = sum(len(m["content"]) for m in messages)
prompt = math.ceil(chars / 4 * margin)
if prompt + max_tokens > WINDOW:
raise ValueError(f"too big: {prompt} + {max_tokens} > {WINDOW}")
worst = prompt / 1_000_000 * INPUT_PER_M + max_tokens / 1_000_000 * OUTPUT_PER_M
return prompt, worst
messages = [{"role": "user", "content": "x" * 12_000}]
print(plan(messages, max_tokens=800)) # (3600, 0.00094)이전에 언급한 12,000자 프롬프트를 max_tokens=800과 함께 입력하면 입력 토큰은 3,600개, 최악의 경우 비용은 3,600 / 1,000,000 x $0.15 + 800 / 1,000,000 x $0.50 = $0.00054 + $0.0004 = $0.00094입니다. 0.1센트 미만이며 상한선이 미리 알려져 있습니다.
단계별 추정이 필요한 채팅 요청
일반적인 채팅 호출을 가져와 규칙을 따라 진행하세요. 시스템 프롬프트는 800자입니다. 기록에는 평균 600자의 이전 메시지 6개가 포함되어 있어 3,600입니다. 새로운 사용자 메시지는 400자입니다.
- 총 문자 수: 800 + 3,600 + 400 = 4,800.
- 원시 추정치: 4,800 / 4 = 1,200 토큰.
- 20% 마진 포함: 1,200 x 1.2 = 1,440 토큰.
- 응답에
max_tokens를 500으로 설정하세요. - 최악의 경우 비용: 1,440 / 1,000,000 x $0.15 = $0.000216, 더하기 500 / 1,000,000 x $0.50 = $0.00025, 즉 $0.000466.
여기서는 창 확인이 간단합니다. 1,440 + 500은 100,000보다 훨씬 낮습니다. 동일한 방법이 배치 작업으로 확장됩니다. 6,000자씩 2,000개의 문서의 경우, 하나의 문서는 1,500 토큰이거나 마진 포함 시 1,800 토큰입니다. 이는 3,600,000 입력 토큰으로 $0.54의 가치가 있습니다. 각 출력 토큰에 200의 제한을 추가하면 400,000 토큰이 추가되어 $0.20의 가치가 있으며, 전체 배치의 천장은 $0.74입니다. 첫 번째 요청이 머신에서 나가기 전에 최대 금액을 알 수 있습니다.
근사법이 가장 약할 때
4자 규칙은 영어 문체를 기반으로 합니다. 다른 언어의 텍스트, 소스 코드, 표, 긴 숫자, 이모지는 더 작은 조각으로 나뉘어 실제 계수가 추정치보다 높게 나옵니다. 이러한 입력의 경우 첫 번째 시도에서 마진을 30~40%로 높인 후, 자체 로그된 사용 데이터에서 측정한 비율로 추측을 대체하세요.
100,000-토큰 창 내에 머무르기
창은 프롬프트와 완성본이 공유합니다. 따라서 확인은 단일 비교가 아닌 합산입니다: 추정 프롬프트와 허용된 응답의 합계가 100,000 이하여야 합니다.
작업 사례입니다. 분석할 300,000자 파일이 있습니다.
- 추정치: 300,000 / 4 = 75,000 토큰.
- 20% 마진 포함: 90,000 토큰.
- 응답에 남은 공간: 100,000 - 90,000 = 10,000 토큰. 긴 요약에 충분하므로 맞습니다.
이제 360,000자 파일을 시도해 보세요. 원시 추정치는 90,000 토큰이며 마진 포함 시 108,000으로, 답변을 위한 공간을 두기 전에도 제한을 초과합니다. 파일을 분할하거나 부분으로 보내거나 각 부분을 요약하여 결합해야 합니다.
채팅에도 규칙을 기억하세요. 기록은 각 턴마다 다시 전송되므로 수백 토큰으로 시작된 대화는 제한에 가까워질 수 있습니다. 합계가 가까워지기 전에 이전 턴을 다듬거나 짧은 요약으로 대체하세요.
맞추기 위한 기록 정리
합계가 초과되면 가장 오래된 턴부터 먼저 제거하고 시스템 프롬프트를 유지하세요. 최신 메시지부터 거꾸로 걷기 시작하여 누적 문자 총계에 각 메시지를 추가하고, 추정치에 응답 제한을 더한 것이 스스로 설정한 제한에 도달할 때 멈춥니다. 많은 팀은 더 짧은 프롬프트가 처리가 빠르고 전송 비용이 저렴하므로 100,000보다 훨씬 낮은 작업 제한(예: 30,000 토큰)을 선택합니다. 제거된 턴의 짧은 요약은 대화의 스레드를 보존하면서 모든 오래된 단어에 다시 지불하지 않도록 기록 상단에 유지됩니다.
응답에 천장 설정하기
출력 토큰은 1M당 $0.50이 들며, $0.15 입력 요금의 약 3배 이상입니다. 응답 길이를 사전에 알 수 없습니다. 할 수 있는 일은 max_tokens을 설정하는 것입니다. 모델은 제한에 도달하면 멈추므로 청구서의 출력 측이 토큰 수를 초과할 수 없습니다.
작업에서 제한을 선택하세요. 분류 또는 예/아니오 확인에는 10~50 토큰이 필요합니다. 단락 답변에는 아마 300이 필요할 것입니다. 이야기 장면에는 2,000이 필요할 수 있습니다. 매개변수를 누락하면 완성본이 창의 나머지를 자유롭게 사용할 수 있으므로 장문 작성에는 적합하지만 짧은 답변에는 낭비적입니다.
주의: 너무 작은 제한은 문장 중간에 응답을 잘라냅니다. 응답의 finish_reason을 확인하세요. 길이에 의해 출력이 잘렸다고 표시되면 제한을 높이거나 모델에게 더 짧은 답변을 요청하세요.
실제 계수로 추정치 확인
각 호출 후 응답은 usage 블록에 실제 프롬프트 및 완성본 토큰 계수를 제공합니다. 스트리밍된 응답은 스트림 끝에 사용량을 보고합니다. 추정치 옆에 이를 로깅하고 비율을 확인하세요.
curl -i https://api.llmtokenprices.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"max_tokens": 100,
"messages": [{"role": "user", "content": "Say hello in five words."}]
}'-i 플래그는 X-Balance-USD을 포함한 응답 헤더를 출력합니다. 일련의 호출 전후의 잔액을 비교하면 사용 숫자에서 계산된 비용과 일치해야 합니다.
추정치가 지속적으로 낮은 경우(예: 15%), 마진을 높이세요. 영어가 아닌 언어와 코드 중심의 프롬프트는 일반적으로 더 큰 마진이 필요합니다. 실제 숫자는 한 번 조정하면 걱정하지 않아도 됩니다.
다음 단계
요청 크기를 파악한 후에는 예산으로 전환하는 것이 다음 단계입니다. 가격 책정 페이지에는 요금과 충전 보너스가 나열되어 있으며, 빠른 시작에는 여러 언어로 요청 형식이 나와 있습니다. 아직 호출하지 않았다면 API 키 페이지에서 키를 발급받으세요. 원클릭 $0.50 체험 크레딧으로 실제 비용과 비교할 수 있는 첫 12개 추정을 실행하기에 충분합니다.
