PL ▾
Pobierz klucz API

Koszt promptu w LLM API: Planuj budżet tokenów

Ceny wynoszą $0,15 za 1 mln tokenów wejściowych i $0,50 za 1 mln tokenów wyjściowych. Zobacz, jak przeliczyć je na budżet dla własnych promptów.

Zaktualizowano

Waga ważąca świecące kostki tokenów przeciw moncie, aby zilustrować koszt promptu

Kluczowe punkty

  • Zapytanie z 600 tokenami wejściowymi i 400 wyjściowymi kosztuje $0,00029; 1000 takich zapytań kosztuje $0,29.
  • Tokeny wyjściowe kosztują 3 i jedną trzecią razy więcej niż tokeny wejściowe.
  • Historia czatu jest wysyłana ponownie w każdej turze, więc długie rozmowy kosztują znacznie więcej na turę niż krótkie.
  • Przedpłacony kredyt od $20 nie wygasa; dostępny jest kredyt próbny za $0,50, ale nie ma darmowego poziomu.

Krótka odpowiedź z liczbami

Koszt promptu w LLM API jest prosty: $0,15 za 1 milion tokenów wejściowych i $0,50 za 1 milion tokenów wyjściowych. Typowe zapytanie z rozszerzeniem promptu, z 600 tokenami wejściowymi i 400 wyjściowymi, kosztuje $0,00029, co oznacza, że 1000 takich zapytań kosztuje $0,29. Nie ma subskrypcji ani miesięcznego minimum. Płacisz z przedpłaconego kredytu, który nigdy nie wygasa.

Pozostała część artykułu pokazuje, jak przejść od tych dwóch cen do budżetu, na którym można polegać: jak liczyć tokeny, ile naprawdę kosztują długie rozmowy, co daje doładowanie i gdzie można skrócić prompt. Każda z poniższych wartości jest obliczona na podstawie dwóch stawk, a obliczenia są pokazane, abyś mógł je powtórzyć ze swoimi liczbami.

ZadanieTokeny wejścioweTokeny wyjścioweKoszt na wywołanie
Rozszerzanie promptów600400$0.00029
Długi prompt systemowy, krótka odpowiedź2,100300$0.000465
Duży dokument w oknie 100k80,0002,000$0.013

Jak tokeny stają się dolarami

Rachunek LLM ma dwie linie. Tokeny wejściowe to wszystko, co wysyłasz: wiadomość systemowa, wcześniejsze tury rozmowy, wklejone dokumenty i nowe pytanie. Tokeny wyjściowe to to, co model zwraca. Wyjście kosztuje więcej za token: $0,50 przeciwko $0,15 za milion, więc każdy token wyjściowy jest 3 i 1/3 razy droższy niż token wejściowy. Długa odpowiedź jest droższa niż długie pytanie o tej samej długości.

Dla pojedynczego zapytania wzór to:

cost = input_tokens x 0,15 / 1 000 000 + output_tokens x 0,50 / 1 000 000

W przybliżeniu dla tekstu angielskiego jeden token to około cztery znaki lub trzy czwarte słowa. Prompt o długości 300 słów to około 400 tokenów. To tylko oszacowanie. Kod, liczby i teksty w innych językach zwykle zajmują więcej tokenów na słowo, więc zmierz rzeczywistą próbkę przed zaplanowaniem dużego zadania.

Najłatwiejszym sposobem pomiaru jest zapytanie API. Każda odpowiedź zawiera obiekt usage z liczbą tokenów promptu i uzupełnienia, a strumieniowana odpowiedź wysyła użycie na końcu strumienia. Uruchom dwadzieście reprezentacyjnych zapytań, uśrednij dwie liczby i pomnóż.

Przykład: rozszerzanie promptów

Weź zadanie, które pisze gotowy prompt do generowania wideo z krótkiego pomysłu. Wiadomość systemowa plus pomysł to 600 tokenów wejściowych, a odpowiedź to 400 tokenów.

  • Wejście: 600 x $0,15 / 1 000 000 = $0,00009
  • Output: 400 x $0,50 / 1 000 000 = $0,0002
  • Łącznie na zapytanie: $0.00029

Skaluj to:

  • 1000 zapytań: $0,29
  • 10 000 zapytań: $2,90
  • 100 000 zapytań: $29,00

Innymi słowy, kredyt próbny $0,50 pokrywa około 1724 takich zapytań (0,50 / 0,00029 = 1724,1), a doładowanie za $20 pokrywa około 69 000 z nich. Dla małych zespołów i projektów hobbystycznych koszt promptów rzadko jest tym, co boli. Usługa, która zużywa prompty, zwykle kosztuje znacznie więcej.

Kredyt próbny wynosi $0,50, ważny przez 7 dni, odbierany jednym kliknięciem na stronie klucza API po rejestracji, jeden na osobę. Nie wymaga karty. Nie ma darmowego planu po jego wyczerpaniu, więc zaplanuj przedpłacony kredyt po zakończeniu okresu próbnego.

Dlaczego długie rozmowy kosztują więcej, niż się spodziewasz

Użycie w stylu czatu to miejsce, gdzie szacunki się mylą. API jest bezstanowe, więc przy każdej nowej turze wysyłasz całą rozmowę. Wejście rośnie z każdą turą, nawet jeśli każda wiadomość jest krótka.

Załóżmy, że czat ma wiadomość systemową o długości 500 tokenów. W każdej turze użytkownik pisze 100 tokenów, a model odpowiada 300. Tura 1 wysyła 600 tokenów. Tura 2 wysyła 600 plus 400 z tury 1, czyli 1,000. Każda kolejna tura dodaje kolejne 400.

  • Wejście przez 10 tur: 10 x 600 + 400 x (0 + 1 + ... + 9) = 6,000 + 400 x 45 = 24,000 tokenów
  • Wyjście przez 10 tur: 10 x 300 = 3,000 tokenów
  • Koszt wejścia: 24 000 x $0,15 / 1 000 000 = $0,0036
  • Koszt wyjścia: 3000 x $0,50 / 1 000 000 = $0,0015
  • Łącznie za dziesięcioturową rozmowę: $0.0051

To około pół centa za całą rozmowę. Kwota ma mniejsze znaczenie niż kształt: tura 10 kosztuje znacznie więcej niż tura 1, a całkowite wejście rośnie kwadratowo z liczbą tur. Rozciągnij tę samą rozmowę na 100 tur i wejście wyniesie 100 x 600 + 400 x 4 950 = 2 040 000 tokenów, co daje $0,306. 30 000 tokenów wyjściowych dodaje $0,015, co daje łącznie $0,321. Dziesięciokrotność tur to około 63-krotność kosztu.

Jeśli Twoje użycie to długotrwały czat lub gra w role, zdecyduj, kiedy przycinać lub podsumowywać stare tury. Zastąpienie pierwszych 80 tur podsumowaniem o długości 500 tokenów może zmniejszyć każde późniejsze zapytanie i utrzymać rozmowę w oknie 100 000 tokenów.

Jedno duże zapytanie w oknie 100k

Drugym skrajnym przypadkiem jest jedno ogromne zapytanie: długi rękopis, plik dziennika, zestaw transkrypcji. Okno ma 100 000 tokenów dla promptu i uzupełnienia łącznie, więc największe wejście zostawia mało miejsca na wyjście. Zadanie z 80 000 tokenami wejściowymi i 2000 wyjściowymi kosztuje:

  • Wejście: 80 000 x $0,15 / 1 000 000 = $0,012
  • Wyjście: 2000 x $0,50 / 1 000 000 = $0,001
  • Łącznie: $0,013

Nawet zapytanie wypełniające większość okna kosztuje około centa. Koszt nie jest powodem do unikania długich wejść. Szybkość i jakość są: bardzo długi prompt zajmuje więcej czasu na przetwarzanie, a fakty w środku ogromnego wejścia są łatwiejsze do przeoczenia przez dowolny model. Jeśli odpowiedź zależy od kilku akapitów, wyślij te akapity.

Limit rozmiaru body wynosi 8 MB na zapytanie, co jest znacznie powyżej tego, co mieści się w oknie tokenów, więc limit liczby tokenów zostanie osiągnięty jako pierwszy.

Co kupuje doładowanie

Kredyt kupuje się w całych kwotach dolarowych od $20 do $500. Większe doładowania dodają bonus: 5% od $50, 10% od $100 i 15% od $200.

PłaciszBonusDodany kredytZapytania z rozszerzeniem promptu (po $0.00029)
$20brak$20.00około 69 000
$505% = $2.50$52.50około 181 000
$10010% = $10$110.00około 379 000
$20015% = $30$230.00około 793 000

Możesz zapłacić kryptowalutami (USDT na TRC20, USDC na Base). Ponieważ kredyt nigdy nie wygasa, nie ma kary za kupno większej kwoty i powolne jej zużycie, a bonus sprawia, że ten wybór jest atrakcyjny, jeśli wiesz, że będziesz nadal korzystać z API. Jeśli masz wątpliwości, zacznij od $20. Aktualne stawki i formularz doładowania są na stronie cen.

Nieudane lub odrzucone zapytania nie są rozliczane. Jeśli zapytanie zwróci błąd lub model odmówi, nie płacisz za nie, co ma znaczenie przy ponawianiu w pętli.

Pięć sposobów na obniżenie rachunku

Ponieważ wejście jest częścią, którą kontrolujesz najbardziej, zacznij od niego.

  1. Skróć wiadomość systemową. Weź zadanie z wiadomością systemową o długości 2000 tokenów, pomysłem o długości 100 tokenów i odpowiedzią o długości 300 tokenów. Wejście to 2100 tokenów, więc zapytanie kosztuje 2100 x $0,15 / 1 000 000 + 300 x $0,50 / 1 000 000 = $0,000315 + $0,00015 = $0,000465. Przy 10 000 zapytaniach to $4,65. Skróć wiadomość systemową do 500 tokenów, a zapytanie wyniesie 600 x $0,15 / 1 000 000 + $0,00015 = $0,00009 + $0,00015 = $0,00024, czyli $2,40 za 10 000 zapytań. Oszczędzasz $2,25.
  2. Ogranicz wynik. Ustaw max_tokens na potrzebną długość. Jest opcjonalne, ale sufit chroni przed niekontrolowaną odpowiedzią.
  3. Poproś o krótką formę. "Odpowiedz tylko promptem" usuwa wstępy, za które płacisz, a następnie usuwasz.
  4. Grupuj krótkie pytania. Dziesięć krótkich pytań w jednym zapytaniu dzieli jedną wiadomość systemową zamiast powtarzać ją dziesięciokrotnie.
  5. Podsumuj stare tury czatu. Jak pokazano powyżej, spłaszcza to krzywą wzrostu.

Żaden z tych elementów nie wymaga specjalnych narzędzi. Sprawdzenie to skrypt, który loguje usage z każdej odpowiedzi.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.veo3apis.com/v1",
    api_key="YOUR_API_KEY",
)

IN_PRICE = 0.15 / 1_000_000
OUT_PRICE = 0.50 / 1_000_000

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Write a 70 word prompt for a rainy street scene."}],
    max_tokens=200,
)

u = resp.usage
cost = u.prompt_tokens * IN_PRICE + u.completion_tokens * OUT_PRICE
print(u.prompt_tokens, u.completion_tokens, "tokens, about $%.6f" % cost)

Możesz też śledzić stan konta bezpośrednio: każda odpowiedź zawiera nagłówek X-Balance-USD. Zaloguj go obok identyfikatora zapytania z X-Request-Id, aby zestawić wydatki z własnymi licznikami. Aby rozpocząć, odbierz kredyt próbny na stronie klucza API i przeczytaj dokumentację, aby uzyskać pełną listę parametrów.

01

Pytania i odpowiedzi

Czy istnieje darmowy plan?

Nie. Nowi użytkownicy mogą odebrać jednorazowy kredyt próbny o wartości $0.50, ważny przez 7 dni i nie wymagający karty. Po jego wyczerpaniu płacisz z przedpłaconego kredytu.

Czy odrzucone lub nieudane zapytania kosztują pieniądze?

Nie. Nieudane lub odrzucone zapytania nie są rozliczane.

Czy kredyt wygasa?

Nie. Kredyt nigdy nie wygasa, a brak jest opłaty subskrypcyjnej.

Jak sprawdzić koszt zapytania?

Przeczytaj obiekt użycia w odpowiedzi, aby uzyskać liczbę tokenów, oraz nagłówek X-Balance-USD, aby sprawdzić swój pozostały stan konta.

Twój klucz jest o jeden formularz stąd

Utwórz konto, skopiuj klucz, zmień bazowy URL. To cała konfiguracja.

Pobierz klucz APIPrzeczytaj dokumentację