中文 ▾
获取 API 密钥

LLM API 提示词成本:预算你的 token

价格为输入 token 每 100 万 $0.15,输出 token 每 100 万 $0.50。以下是如何将其转化为你的提示词预算。

更新于

天平称量发光的 token 方块与硬币,以说明提示词成本

要点

  • 600 输入、400 输出的提示词调用成本为 $0.00029;1,000 次调用成本为 $0.29。
  • 输出 token 的成本是输入 token 的 3 又 1/3 倍。
  • 每次对话轮次都会重发历史记录,因此长对话每轮成本远高于短对话。
  • 预付额度从 $20 起,永不过期;有 $0.50 的试用额度,但没有免费层级。

简短答案,含数字

在此 API 上,llm api 提示词成本很简单:输入 token 为 $0.15/1M,输出 token 为 $0.50/1M。一次典型的提示词扩展调用,输入 600 token,输出 400 token,成本为 $0.00029,这意味着 1,000 次此类调用成本为 $0.29。无订阅费,无月度最低消费。你从预付额度扣费,且额度永不过期。

本文其余部分展示如何从这两个价格得出可信赖的预算:如何计算 token、长对话的真实成本、充值能买多少,以及如何缩减提示词。以下所有数据均基于这两个费率计算,并展示了算术过程,以便你用你自己的数字重新计算。

任务输入 token输出 token每次调用成本
提示词扩展600400$0.00029
长系统提示词,短回复2,100300$0.000465
100k 窗口内的大文档80,0002,000$0.013

token 如何转化为美元

LLM 账单有两行。输入 token 是你发送的所有内容:系统消息、对话的先前轮次、任何粘贴的文档和新问题。输出 token 是模型写回的内容。此处的输出成本更高,$0.50/1M 对比 $0.15/1M,因此每个输出 token 的价格是输入 token 的 3 又 1/3 倍。长回答比同等长度的长问题更昂贵。

单次调用的公式为:

cost = input_tokens x 0.15 / 1,000,000 + output_tokens x 0.50 / 1,000,000

作为英文文本的粗略规则,一个 token 约等于四个字符,或四分之三个单词。300 词的提示词约为 400 个 token。这仅是估算。代码、数字和非英文文本通常每个单词占用更多 token,因此在为大型任务做预算前,请测量真实样本。

最简单的测量方法是询问 API。每个响应都包含一个 usage 对象,带有提示词和补全 token 计数,流式响应会在流结束时发送 usage。运行二十次具有代表性的请求,取两个数字的平均值,然后相乘。

计算示例:扩展提示词

假设一个任务是根据简短想法生成完整的文生视频提示词。系统消息加上想法共 600 个输入 token,回复为 400 个 token。

  • 输入:600 x $0.15 / 1,000,000 = $0.00009
  • 输出:400 × $0.50 / 1,000,000 = $0.0002
  • 每次调用总计:$0.00029

扩大规模:

  • 1,000 次调用:$0.29
  • 10,000 次调用:$2.90
  • 100,000 次调用:$29.00

换句话说,$0.50 的试用额度可覆盖约 1,724 次此类调用(0.50 / 0.00029 = 1,724.1),$20 充值可覆盖约 69,000 次。对于小团队和业余项目,提示词成本通常不是预算中的痛点。消耗提示词的工具通常成本要高得多。

试用额度为 $0.50,有效期 7 天,注册后在 API 密钥页面一键领取,每人限领一次。无需绑定卡。除此之外没有循环免费层级,因此试用结束后请计划使用预付额度。

为什么长对话的成本比你预期的要高

对话式使用是估算出错的地方。API 是无状态的,因此对于每个新轮次,你都需要重发整个对话。即使每条消息都很短,输入也会随着轮次增加。

假设聊天有一个 500 token 的系统消息。在每一轮中,用户写入 100 个 token,模型回复 300 个 token。第 1 轮发送 600 个 token。第 2 轮发送 600 加上第 1 轮的 400,即 1,000。之后每轮增加 400。

  • 10 轮输入:10 x 600 + 400 x (0 + 1 + ... + 9) = 6,000 + 400 x 45 = 24,000 个 token
  • 10 轮输出:10 x 300 = 3,000 个 token
  • 输入成本:24,000 x $0.15 / 1,000,000 = $0.0036
  • 输出成本:3,000 x $0.50 / 1,000,000 = $0.0015
  • 十轮聊天的总成本:$0.0051

这大约是一整段对话的一半美分。金额的大小不如结构重要:第 10 轮的成本远高于第 1 轮,且总输入随轮次数的平方增长。将相同的聊天扩展到 100 轮,输入变为 100 x 600 + 400 x 4,950 = 2,040,000 个 token,即 $0.306。30,000 个输出 token 增加 $0.015,总计 $0.321。轮次增加 10 倍,成本增加约 63 倍。

如果你的使用场景是长时聊天或角色扮演,请决定何时截断或总结旧轮次。用 500 token 的摘要替换前 80 轮可以缩小后续每个请求,并将对话保持在 100,000 token 的窗口内。

100k 窗口内的一次大请求

另一种极端是一次巨大的请求:长手稿、日志文件、一组转录文本。窗口为 100,000 个 token(提示词加补全),因此最大的输入留给输出的空间很少。一项包含 80,000 个输入 token 和 2,000 个输出 token 的任务成本为:

  • 输入:80,000 x $0.15 / 1,000,000 = $0.012
  • 输出:2,000 x $0.50 / 1,000,000 = $0.001
  • 总计:$0.013

即使请求占满了大部分窗口,成本也仅约一美分。避免长输入的原因不是成本。速度和质量才是:超长提示词处理时间更长,且模型更容易忽略巨大输入中间的事实。如果答案取决于几段文字,请发送那些段落。

请求体限制为每请求 8 MB,远高于 token 窗口能容纳的内容,因此 token 计数将是你先达到的限制。

充值能买到什么

额度以整美元金额购买,从 $20 到 $500。大额充值有奖励:$50 起 5%,$100 起 10%,$200 起 15%。

你支付奖励添加的额度提示词扩展调用(每次 $0.00029)
$20无$20.00约 69,000
$505% = $2.50$52.50约 181,000
$10010% = $10$110.00约 379,000
$20015% = $30$230.00约 793,000

你可以通过加密货币(TRC20 上的 USDT、Base 上的 USDC)支付。由于额度永不过期,购买大额并慢慢使用没有惩罚,如果你知道自己会持续使用 API,奖励会让这个选择更具吸引力。如果你不确定,可以从 $20 开始。当前费率和充值页面在 定价页面。

失败或被拒绝的请求不收费。如果请求出错或模型拒绝,你无需为其付费,这在循环重试时很重要。

降低账单的五种方法

因为输入是你最能控制的部分,请从这里开始。

  1. 精简系统消息。 假设一个任务带有 2,000 token 的系统消息、100 token 的想法和 300 token 的回复。输入共 2,100 token,因此调用成本为 2,100 x $0.15 / 1,000,000 + 300 x $0.50 / 1,000,000 = $0.000315 + $0.00015 = $0.000465。10,000 次调用即为 $4.65。将系统消息缩减至 500 token,调用成本变为 600 x $0.15 / 1,000,000 + $0.00015 = $0.00009 + $0.00015 = $0.00024,即 10,000 次调用 $2.40。你节省了 $2.25。
  2. 限制输出长度。 将 max_tokens 设置为所需的长度。这是可选的,但设置上限可以防止回复失控。
  3. 要求简短形式。 "仅回复提示词" 会去除你付费且随后删除的引导语。
  4. 批量处理小问题。 一次请求中包含十个简短问题,共享一个系统消息,而不是重复十次。
  5. 总结旧对话轮次。 如上所示,这可以平滑增长曲线。

这些都不需要特殊工具。检查通过脚本完成,该脚本记录每个响应中的 usage。

from openai import OpenAI

client = OpenAI(
    base_url="https://api.veo3apis.com/v1",
    api_key="YOUR_API_KEY",
)

IN_PRICE = 0.15 / 1_000_000
OUT_PRICE = 0.50 / 1_000_000

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Write a 70 word prompt for a rainy street scene."}],
    max_tokens=200,
)

u = resp.usage
cost = u.prompt_tokens * IN_PRICE + u.completion_tokens * OUT_PRICE
print(u.prompt_tokens, u.completion_tokens, "tokens, about $%.6f" % cost)

你也可以直接监控余额:每个响应都包含一个 X-Balance-USD 头部。将其与来自 X-Request-Id 的请求 ID 一起记录,你就可以根据你自己的计数对账支出。首先,在 API 密钥页面 领取试用额度,并阅读 文档 获取完整参数列表。

01

问答

有免费层级吗?

没有。新用户可以获得一次性的 $0.50 试用额度,有效期 7 天,无需银行卡。之后你需要从预付额度中支付。

被拒绝或失败的请求会收费吗?

不会。失败或被拒绝的请求不收费。

额度会过期吗?

没有。额度永不过期,也没有订阅。

我如何查看请求的费用?

读取响应中的 usage 对象以获取 token 计数,并读取 X-Balance-USD 头部以获取剩余余额。

只差一张表单,即可获得密钥

创建账户,复制密钥,更改基础 URL。这就是全部设置。

获取 API 密钥阅读文档