TR ▾
API anahtarı al

LLM API İstem Maliyeti: Token Bütçenizi Yönetin

Fiyatlar 1M giriş token için $0.15 ve 1M çıkış token için $0.50'dir. Kendi istemleriniz için bütçe oluşturmanın yollarını burada bulabilirsiniz.

güncellendi

İstem maliyetini göstermek için parlayan token küpleri ile bir madeni para arasındaki dengeyi gösteren terazi

Temel noktalar

  • 600 giriş, 400 çıkışlı bir istem çağrısı $0.00029'a mal olur; 1.000 çağrı $0.29'a mal olur.
  • Çıktı tokenları, girdi tokenlarından 3 ve üçte bir kat daha pahalıdır.
  • Sohbet geçmişi her adımda yeniden gönderilir; bu nedenle uzun sohbetler kısa olanlara göre adım başı çok daha pahalıya mal olur.
  • $20'dan başlayan ön ödemeli kredi süresi asla dolmaz; $0.50'lik bir deneme kredisi vardır ancak ücretsiz bir katman bulunmamaktadır.

Kısa cevap: sayılarla

Bu API'de LLM API istem maliyeti basitçe ifade edilebilir: 1 milyon giriş token için $0.15 ve 1 milyon çıkış token için $0.50. 600 token giren ve 400 token çıkan tipik bir istem genişletme çağrısı $0.00029'a mal olur; bu da 1.000 böyle çağrının $0.29'a mal olduğu anlamına gelir. Abonelik ve aylık minimum ücret yoktur. Ön ödemeli krediden ödeme yaparsınız ve kredi süresi asla dolmaz.

Bu makalenin geri kalanı, bu iki fiyattan güvenilir bir bütçeye nasıl ulaşılacağını gösterir: tokenların nasıl sayılacağı, uzun konuşmaların gerçek maliyeti, bakiye yükleme ile neler alınabileceği ve bir istemin nasıl kısaltılabileceği. Aşağıdaki tüm rakamlar iki oran üzerinden hesaplanmıştır ve kendi sayılarınızla tekrarlayabilmeniz için aritmetik gösterilmiştir.

GörevGirdi tokenlarıÇıktı tokenlarıÇağrı başına maliyet
İstem genişletme600400$0.00029
Uzun sistem istemi, kısa yanıt2,100300$0.000465
100k pencerede büyük belge80,0002,000$0.013

Tokenların dolara dönüşümü

Bir LLM faturasında iki satır bulunur. Girdi tokenları, sistem mesajı, konuşmanın önceki adımları, yapıştırılan belgeler ve yeni soru dahil olmak üzere gönderdiğiniz her şeydir. Çıktı tokenları, modelin size geri yazdığı metindir. Burada çıktı tokenı başına maliyet daha yüksektir: milyon başı $0,50 karşılığında $0,15. Bu nedenle her çıktı tokenı, bir girdi tokenının fiyatının 3 ve üçte bir katıdır. Uzun bir yanıt, aynı uzunluktaki uzun bir sorudan daha pahalıdır.

Tek bir çağrı için formül şudur:

cost = input_tokens x 0.15 / 1,000,000 + output_tokens x 0.50 / 1,000,000

İngilizce metinler için kabaca bir kural olarak, bir token yaklaşık dört karakter veya kelimenin dörtte üçü kadardır. 300 kelimelik bir istem yaklaşık 400 token'a denk gelir. Bu sadece bir tahmindir. Kod, sayılar ve İngilizce olmayan metinler kelime başına daha fazla token gerektirdiğinden, büyük bir iş için bütçe yapmadan önce gerçek bir örnek ölçün.

Ölçmenin en kolay yolu API'yi kullanmaktır. Her yanıt, istek ve tamamlama token sayılarını içeren bir usage nesnesi taşır ve akış yanıtı, akışın sonunda kullanımı gönderir. Temsilî yirmi istek çalıştırın, iki sayının ortalamasını alın ve çarpın.

Uygulamalı örnek: genişleyen istemler

Kısa bir fikirden bitmiş bir metin-video istemi yazan bir işi ele alın. Sistem mesajı ve fikir toplam 600 giriş tokenı eder ve yanıt 400 token eder.

  • Giriş: 600 x $0.15 / 1.000.000 = $0.00009
  • Çıktı: 400 x $0,50 / 1.000.000 = $0,0002
  • Çağrı başı toplam: $0.00029

Büyütün:

  • 1.000 çağrı: $0.29
  • 10.000 çağrı: $2.90
  • 100.000 çağrı: $29.00

Başka bir deyişle, $0.50'lik deneme kredisi yaklaşık 1.724 böyle çağrıyı karşılar (0.50 / 0.00029 = 1.724,1) ve $20'lik bir bakiye yükleme yaklaşık 69.000'ini karşılar. Küçük ekipler ve hobi projeleri için istemlerin maliyeti genellikle bütçenin canını yakan kısım değildir. İstemleri tüketen araç genellikle çok daha pahalıdır.

Deneme kredisi $0.50'dir, 7 gün geçerlidir, kayıt sonrası API anahtarı sayfasında tek tıkla alınır, kişi başı bir tanedir. Kart gerekmez. Bunun ötesinde tekrarlayan ücretsiz bir katman olmadığı için, deneme süresi dolduğunda ön ödemeli kredi planlayın.

Uzun sohbetlerin beklenenden daha pahalıya mal olmasının nedeni

Sohbet tarzı kullanım tahminlerin yanlış gittiği yerdir. API durumsizdir, bu nedenle her yeni adım için tüm konuşmayı yeniden gönderirsiniz. Her mesaj kısa olsa bile her adımda giriş artar.

500 tokenlık bir sistem mesajı olan bir sohbet düşünün. Her adımda kullanıcı 100 token yazar ve model 300 tokenle yanıt verir. 1. adım 600 token gönderir. 2. adım 1. adımdaki 400 tokenin üzerine 600 ekler, yani 1.000. Her sonraki adım 400 token daha ekler.

  • 10 adımda giriş: 10 x 600 + 400 x (0 + 1 + ... + 9) = 6.000 + 400 x 45 = 24.000 token
  • 10 adımda çıkış: 10 x 300 = 3.000 token
  • Giriş maliyeti: 24.000 x $0.15 / 1.000.000 = $0.0036
  • Çıkış maliyeti: 3.000 x $0.50 / 1.000.000 = $0.0015
  • On adımlı sohbet için toplam: $0.0051

Bu, tüm bir konuşma için yaklaşık yarım senttir. Miktarın önemi şekilden daha azdır: 10. adım 1. adımdan çok daha pahalıdır ve toplam giriş, adım sayısının karesiyle büyür. Aynı sohbeti 100 adıma çıkarırsanız giriş 100 x 600 + 400 x 4.950 = 2.040.000 token olur, bu da $0.306 eder. 30.000 çıkış tokenı $0.015 ekler, toplam $0.321 eder. On kat fazla adım, yaklaşık 63 kat fazla maliyet.

Kullanımınız uzun süreli sohbet veya rol yapma ise, eski adımları kesme veya özetleme zamanını belirleyin. İlk 80 adımı 500 tokenlık bir özetle değiştirmek her sonraki isteği küçültebilir ve konuşmayı 100.000 tokenlık pencere içinde tutar.

100k pencerede tek büyük istek

Diğer uç, tek bir devasa istektir: uzun bir el yazması, bir günlük dosyası, bir dizi transkript. Pencere, istem ve tamamlama birlikte 100.000 token içindir; bu nedenle en büyük giriş, çıkış için çok az yer bırakır. 80.000 giriş tokenı ve 2.000 çıkış tokenı olan bir iş şu maliyete sahiptir:

  • Giriş: 80.000 x $0.15 / 1.000.000 = $0.012
  • Çıktı: 2.000 x $0,50 / 1.000.000 = $0,001
  • Toplam: $0.013

Pencerenin çoğunu dolduran bir istek bile yaklaşık bir sent eder. Maliyet, uzun girişlerden kaçınmak için neden değildir. Hız ve kalite nedenleridir: çok uzun bir istem işlenmesi daha uzun sürer ve devasa bir girişin ortasındaki gerçekler herhangi bir model tarafından kaçırılmaya daha müsaittir. Cevap birkaç paragrafa bağlıysa, o paragrafları gönderin.

Gövde sınırı istek başına 8 MB'tır, bu token penceresine sığandan çok daha fazlasıdır; bu nedenle token sayısı ulaşacağınız ilk sınır olacaktır.

Bakiye yükleme ne satın alır

Kredi $20 ile $500 arasında tam dolar miktarlarla satın alınır. Daha büyük bakiye yüklemeleri bonus ekler: $50'den itibaren %5, $100'den itibaren %10 ve $200'den itibaren %15.

ÖdemeBonusEklenen krediİstem genişletme çağrıları ($0.00029 başına)
$20yok$20.00yaklaşık 69.000
$505% = $2.50$52.50yaklaşık 181.000
$10010% = $10$110.00yaklaşık 379.000
$20015% = $30$230.00yaklaşık 793.000

Kripto (TRC20 üzerinde USDT, Base üzerinde USDC) ile ödeme yapabilirsiniz. Kredi asla dolmaz, bu nedenle daha büyük bir miktar satın alıp yavaşça kullanmanın cezası yoktur ve API'yi kullanmaya devam edeceğinizi biliyorsanız bonus bu seçeneği cazip kılar. Emin değilseniz $20 ile başlayın. Güncel oranlar ve bakiye yükleme formu fiyatlandırma sayfasında yer alır.

Başarısız veya reddedilen istekler için ücret alınmaz. Bir istek hata verirse veya model reddederse, bunun için ödeme yapmazsınız; bu, bir döngüde yeniden deneme yaparken önemlidir.

Faturayı düşürmenin beş yolu

Giriş, en çok kontrol edebileceğiniz kısımdır, bu nedenle oradan başlayın.

  1. Sistem mesajını kısaltın. 2.000 tokenlık bir sistem mesajı, 100 tokenlık bir fikir ve 300 tokenlık bir yanıt içeren bir işi ele alın. Giriş 2.100 token eder, bu nedenle çağrı 2.100 x $0.15 / 1.000.000 + 300 x $0.50 / 1.000.000 = $0.000315 + $0.00015 = $0.000465 eder. 10.000 çağrı için bu $4.65 eder. Sistem mesajını 500 tokena indirin ve çağrı 600 x $0.15 / 1.000.000 + $0.00015 = $0.00009 + $0.00015 = $0.00024 eder, yani 10.000 çağrı için $2.40 eder. $2.25 tasarruf edersiniz.
  2. Çıkışı sınırlandırın. max_tokens değerini ihtiyacınız olan uzunluğa ayarlayın. İsteğe bağlıdır ancak bir tavan, kontrolsüz bir yanıttan sizi korur.
  3. Kısa formu isteyin. "Yalnızca istemi yanıt olarak ver" talimatı, ödediğiniz ve sonra sildiğiniz ön metinleri (preambles) kaldırır.
  4. Küçük soruları toplu yapın. Bir istekte on kısa soru, on kez tekrarlamak yerine tek bir sistem mesajını paylaşır.
  5. Eski sohbet adımlarını özetleyin. Yukarıda gösterildiği gibi, bu büyüme eğrisini düzleştirir.

Bunun için özel araçlara gerek yoktur. Kontrol, her yanıtın usage verilerini loglayan bir betiktir.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.veo3apis.com/v1",
    api_key="YOUR_API_KEY",
)

IN_PRICE = 0.15 / 1_000_000
OUT_PRICE = 0.50 / 1_000_000

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Write a 70 word prompt for a rainy street scene."}],
    max_tokens=200,
)

u = resp.usage
cost = u.prompt_tokens * IN_PRICE + u.completion_tokens * OUT_PRICE
print(u.prompt_tokens, u.completion_tokens, "tokens, about $%.6f" % cost)

Bakiyeyi doğrudan izleyebilirsiniz: her yanıt bir X-Balance-USD başlığı içerir. Bunu X-Request-Id başlığından gelen istek kimliğiyle birlikte loglayın ve harcamaları kendi sayımlarınızla eşleyin. Başlamak için API anahtarı sayfasında deneme kredisi talep edin ve tam parametre listesi için dokümantasyonu okuyun.

01

Sorular ve cevaplar

Ücretsiz bir katman var mı?

Hayır. Yeni kullanıcılar 7 gün geçerli, kart gerektirmeyen tek seferlik $0.50 deneme kredisi talep edebilir. Bundan sonra ön ödemeli krediden ödeme yaparsınız.

Reddedilen veya başarısız istekler para mı tutar?

Hayır. Başarısız veya reddedilen istekler için ücret alınmaz.

Kredi süresi doluyor mu?

Hayır. Kredi asla sona ermez ve abonelik yoktur.

Bir istek için ne kadar ödediğimi nasıl görürüm?

Token sayıları için yanıtın kullanım nesnesini ve kalan bakiyeniz için X-Balance-USD başlığını okuyun.

Anahtarınız tek bir formun uzağında

Bir hesap oluşturun, anahtarı kopyalayın ve temel URL'yi değiştirin. Kurulum bu kadar basit.

API anahtarı alDokümantasyonu oku