RU ▾
Получить API-ключ

Стоимость промпта LLM API: планируйте бюджет токенов

Цены: $0,15 за 1 млн входных токенов и $0,50 за 1 млн выходных. Ниже показано, как составить бюджет для ваших промптов.

Обновлено

Весы, на которых светящиеся кубики токенов уравновешивают монету для иллюстрации стоимости промпта

Ключевые моменты

  • Запрос с 600 входными и 400 выходными токенами стоит $0,00029; 1 000 таких запросов — $0,29.
  • Выходные токены стоят в 3⅓ раза дороже входных.
  • История чата отправляется заново на каждом шаге диалога, поэтому длинные чаты обходятся значительно дороже за шаг, чем короткие.
  • Предоплаченный баланс от $20 не сгорает; есть пробный баланс $0,50, но бесплатного тарифа нет.

Короткий ответ с цифрами

На этом API стоимость промпта LLM API проста: $0,15 за 1 млн входных токенов и $0,50 за 1 млн выходных. Типичный запрос на расширение промпта с 600 входными и 400 выходными токенами стоит $0,00029, то есть 1 000 таких запросов — $0,29. Подписки и ежемесячного минимума нет. Вы платите с предоплаченного баланса, который не сгорает.

Далее в статье показано, как перейти от этих двух цен к надёжному бюджету: как считать токены, сколько на самом деле стоят длинные диалоги, что даёт пополнение и как можно сократить промпт. Все цифры ниже рассчитаны по этим двум ставкам, а арифметика показана, чтобы вы могли пересчитать их под свои данные.

ЗадачаВходные токеныВыходные токеныСтоимость за вызов
Расширение промпта600400$0.00029
Длинный системный промпт, короткий ответ2,100300$0.000465
Большой документ в окне 100k80,0002,000$0.013

Как токены превращаются в доллары

Счёт LLM состоит из двух строк. Входные токены — это всё, что вы отправляете: системное сообщение, предыдущие реплики, вставленные документы и новый вопрос. Выходные токены — это то, что возвращает модель. Выходные токены здесь стоят дороже: $0,50 против $0,15 за миллион, поэтому каждый выходной токен стоит в 3⅓ раза дороже входного. Длинный ответ дороже длинного вопроса той же длины.

Для одного запроса формула:

cost = input_tokens x 0.15 / 1 000 000 + output_tokens x 0.50 / 1 000 000

Как грубое правило для английского текста: один токен — это примерно четыре символа или три четверти слова. Промпт на 300 слов — это около 400 токенов. Это лишь оценка. Код, числа и тексты на других языках обычно занимают больше токенов на слово, поэтому измерьте реальный образец перед тем, как планировать бюджет на большую задачу.

Самый простой способ измерения — запросить API. Каждый ответ содержит объект usage с подсчётом токенов промпта и завершения, а потоковый ответ отправляет данные об использовании в конце потока. Запустите двадцать репрезентативных запросов, усредните два числа и умножьте.

Пример: расширение промптов

Возьмите задачу, которая пишет готовый промпт для генерации видео из короткой идеи. Системное сообщение плюс идея составляют 600 входных токенов, а ответ — 400 токенов.

  • Вход: 600 x $0,15 / 1 000 000 = $0,00009
  • Вывод: 400 × $0,50 / 1 000 000 = $0,0002
  • Итого за запрос: $0,00029

Масштабируем:

  • 1 000 запросов: $0,29
  • 10 000 запросов: $2,90
  • 100 000 запросов: $29,00

Иными словами, пробный баланс $0,50 покрывает около 1 724 таких запросов (0,50 / 0,00029 = 1 724,1), а пополнение на $20 — около 69 000. Для небольших команд и хобби-проектов стоимость промптов редко является той частью бюджета, которая бьёт по карману. Инструмент, который потребляет промпты, обычно стоит дороже.

Пробный баланс составляет $0,50, действителен 7 дней, оформляется в один клик на странице API-ключа после регистрации, по одному на человека. Карта не нужна. Повторяющегося бесплатного тарифа после этого нет, поэтому планируйте предоплаченный баланс, когда пробный баланс закончится.

Почему длинные чаты стоят больше, чем вы ожидаете

Использование в стиле чата — это сценарий, где оценки часто ошибаются. API не хранит состояние, поэтому для каждого нового шага вы отправляете весь диалог. Объём входных токенов растёт с каждым шагом, даже если каждое сообщение короткое.

Предположим, в чате есть системное сообщение на 500 токенов. На каждом шаге пользователь пишет 100 токенов, а модель отвечает 300. Шаг 1 отправляет 600 токенов. Шаг 2 отправляет 600 плюс 400 из шага 1, то есть 1 000. Каждый последующий шаг добавляет ещё 400.

  • Входные токены за 10 шагов: 10 x 600 + 400 x (0 + 1 + ... + 9) = 6 000 + 400 x 45 = 24 000 токенов
  • Выходные токены за 10 шагов: 10 x 300 = 3 000 токенов
  • Стоимость входных токенов: 24 000 x $0,15 / 1 000 000 = $0,0036
  • Стоимость выходных токенов: 3 000 x $0,50 / 1 000 000 = $0,0015
  • Итого за десятиходовой диалог: $0,0051

Это около полцента за весь диалог. Сумма менее важна, чем структура: шаг 10 обходится дороже шага 1, а общий объём входных токенов растёт пропорционально квадрату числа шагов. Растяните тот же чат до 100 шагов, и входные данные составят 100 x 600 + 400 x 4 950 = 2 040 000 токенов, что стоит $0,306. 30 000 выходных токенов добавят $0,015, итого $0,321. В десять раз больше шагов — примерно в 63 раза дороже.

Если ваш сценарий — долгие чаты или ролевые игры, решите, когда обрезать или суммировать старые реплики. Замена первых 80 ходов сводкой на 500 токенов может сократить каждый последующий запрос, и это также удержит разговор в пределах окна в 100 000 токенов.

Один большой запрос в окне 100k

Другой крайний случай — один огромный запрос: длинное произведение, лог-файл, набор транскриптов. Окно составляет 100 000 токенов для промпта и генерации вместе, поэтому самые большие входные данные оставляют мало места для ответа. Задача с 80 000 входными и 2 000 выходными токенами стоит:

  • Вход: 80 000 x $0,15 / 1 000 000 = $0,012
  • Вывод: 2 000 x $0,50 / 1 000 000 = $0,001
  • Итого: $0,013

Даже запрос, заполняющий большую часть окна, стоит около цента. Стоимость — не причина избегать длинных входных данных. Скорость и качество — вот что важно: очень длинный промпт обрабатывается дольше, а факты в середине огромного входного потока любая модель может пропустить. Если ответ зависит от нескольких абзацев, отправляйте эти абзацы.

Лимит тела запроса составляет 8 МБ, что значительно превышает объём, помещающийся в окно токенов, поэтому лимит токенов вы достигнете первым.

Что можно купить за пополнение

Баланс покупается целыми суммами от $20 до $500. Большие пополнения добавляют бонус: 5% от $50, 10% от $100 и 15% от $200.

Вы платитеБонусЗачислено на балансЗапросы на расширение промпта (по $0,00029)
$20нет$20,00около 69 000
$505% = $2,50$52,50около 181 000
$10010% = $10$110,00около 379 000
$20015% = $30$230,00около 793 000

Вы можете оплатить криптовалютой (USDT в сети TRC20, USDC в сети Base). Поскольку предоплаченный баланс никогда не сгорает, нет штрафа за покупку большей суммы и её медленное использование, а бонус делает этот выбор привлекательным, если вы знаете, что будете продолжать использовать API. Если вы не уверены, начните с $20. Текущие тарифы и форма пополнения находятся на странице тарифов.

Неудачные или отклонённые запросы не оплачиваются. Если запрос завершается ошибкой или модель отклоняет его, вы не платите за него, что важно при повторных попытках в цикле.

Пять способов снизить счёт

Поскольку ввод — это то, что вы контролируете больше всего, начните с него.

  1. Сократите системное сообщение. Возьмите задачу с системным сообщением на 2 000 токенов, идеей на 100 токенов и ответом на 300 токенов. Ввод составляет 2 100 токенов, поэтому запрос стоит 2 100 x $0,15 / 1 000 000 + 300 x $0,50 / 1 000 000 = $0,000315 + $0,00015 = $0,000465. За 10 000 запросов это $4,65. Сократите системное сообщение до 500 токенов, и запрос составит 600 x $0,15 / 1 000 000 + $0,00015 = $0,00009 + $0,00015 = $0,00024, или $2,40 за 10 000 запросов. Вы сэкономите $2,25.
  2. Ограничьте вывод. Установите max_tokens в нужное значение. Это необязательный параметр, но ограничение защищает от чрезмерного ответа.
  3. Просите краткий ответ. Инструкция «Ответьте только промптом» убирает преамбулы, за которые вы платите, а затем удаляете их.
  4. Группируйте мелкие вопросы. Десять коротких вопросов в одном запросе используют одно системное сообщение вместо его повторения десять раз.
  5. Сводите старые реплики чата в резюме. Как показано выше, это сглаживает кривую роста.

Ничего особенного не требуется. Проверка — это скрипт, который логирует usage из каждого ответа.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.veo3apis.com/v1",
    api_key="YOUR_API_KEY",
)

IN_PRICE = 0.15 / 1_000_000
OUT_PRICE = 0.50 / 1_000_000

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Write a 70 word prompt for a rainy street scene."}],
    max_tokens=200,
)

u = resp.usage
cost = u.prompt_tokens * IN_PRICE + u.completion_tokens * OUT_PRICE
print(u.prompt_tokens, u.completion_tokens, "tokens, about $%.6f" % cost)

Вы также можете отслеживать баланс напрямую: каждый ответ включает заголовок X-Balance-USD. Записывайте его рядом с идентификатором запроса из X-Request-Id, и вы сможете сверить расходы с собственными подсчётами. Чтобы начать, получите пробный баланс на странице API-ключа и прочтите документацию, чтобы получить полный список параметров.

01

Вопросы и ответы

Есть ли бесплатный тариф?

Нет. Новые пользователи могут получить разовый пробный кредит на $0,50, действительный в течение 7 дней и не требующий карты. После этого вы платите из предоплаченного баланса.

Приходится ли платить за отклонённые или неудачные запросы?

Нет. За неудачные или отклонённые запросы плата не взимается.

Сгорает ли кредит?

Нет. Кредит не истекает, подписки нет.

Как узнать стоимость запроса?

Прочтите объект usage в ответе для получения количества токенов и заголовок X-Balance-USD для вашего оставшегося баланса.

Получите ключ, заполнив одну форму

Создайте аккаунт, скопируйте ключ, измените базовый URL. Вот и вся настройка.

Получить API-ключЧитать документацию