TH ▾
รับคีย์ API

LLM API: คำนวณต้นทุนพรอมต์

ราคาอยู่ที่ $0.15 ต่อ 1M input token และ $0.50 ต่อ 1M output token นี่คือวิธีเปลี่ยนราคาเหล่านี้เป็นงบประมาณสำหรับพรอมต์ของคุณเอง

อัปเดต

ภาพตาชั่งถ่วงก้อนโทเคนเรืองแสงกับเหรียญเพื่อแสดงต้นทุนพรอมต์

ประเด็นสำคัญ

  • การเรียกพรอมต์แบบ 600-in 400-out มีค่าใช้จ่าย $0.00029; การเรียก 1,000 ครั้ง มีค่าใช้จ่าย $0.29
  • output token มีราคาแพงกว่า input token 3 และ 1 ใน 3 เท่า
  • ประวัติแชทถูกส่งใหม่ทุกเทิร์น ทำให้แชทยาวมีต้นทุนต่อเทิร์นสูงกว่าแชทสั้น
  • เครดิตแบบเติมเงินล่วงหน้าตั้งแต่ $20 ไม่หมดอายุ; มีเครดิตทดลอง $0.50 แต่ไม่มีระดับบริการฟรี

คำตอบสั้นๆ พร้อมตัวเลข

บน API นี้ ต้นทุนพรอมต์ LLM API ระบุได้เรียบง่าย: $0.15 ต่อ 1 ล้าน input token และ $0.50 ต่อ 1 ล้าน output token การเรียกแบบขยายพรอมต์ทั่วไปที่มี 600 token เข้าและ 400 token ออก มีค่าใช้จ่าย $0.00029 ซึ่งหมายถึง 1,000 การเรียกแบบนั้นมีค่าใช้จ่าย $0.29 ไม่มีค่าสมาชิกและไม่มีขั้นต่ำรายเดือน คุณจ่ายจากเครดิตแบบเติมเงินล่วงหน้า และเครดิตไม่หมดอายุ

บทความนี้แสดงวิธีคำนวณงบประมาณจากสองราคานี้ นับโทเคน ต้นทุนแชทยาว การเติมเงิน และการลดพรอมต์ ทุกตัวเลขด้านล่างคำนวณจากอัตรานี้ พร้อมแสดงวิธีคิดเพื่อให้คุณสามารถคำนวณใหม่ด้วยตัวเลขของคุณเอง

งานโทเคนอินพุตโทเคน outputต้นทุนต่อคำขอ
การขยายพรอมต์600400$0.00029
ระบบพรอมต์ยาว ตอบสั้น2,100300$0.000465
เอกสารขนาดใหญ่ในหน้าต่างบริบท 100k80,0002,000$0.013

วิธีที่โทเคนกลายเป็นดอลลาร์

บิล LLM มีสองบรรทัด โทเคนอินพุตคือทุกอย่างที่คุณส่ง: ระบบพรอมต์, การสนทนาก่อนหน้านี้ เอกสารที่วางลง และคำถามใหม่ โทเคนเอาต์พุตคือสิ่งที่โมเดลเขียนตอบกลับ ค่าใช้จ่ายของเอาต์พุตสูงกว่าต่อโทเคนที่นี่ คือ $0.50 เมื่อเทียบกับ $0.15 ต่อล้าน ดังนั้นแต่ละโทเคนเอาต์พุตจึงมีราคาสูงกว่าโทเคนอินพุต 3.33 เท่า คำตอบที่ยาวนานมีราคาแพงกว่าคำถามที่ยาวนานที่มีความยาวเท่ากัน

สำหรับคำขอเดียว สูตรคือ:

cost = input_tokens x 0.15 / 1,000,000 + output_tokens x 0.50 / 1,000,000

เป็นกฎหยาบสำหรับข้อความภาษาอังกฤษ โทเคนหนึ่งตัวมีประมาณสี่ตัวอักษร หรือสามส่วนสี่ของคำ พรอมต์ 300 คำมีประมาณ 400 โทเคน นั่นเป็นเพียงการประมาณการ โค้ด ตัวเลข และข้อความที่ไม่ใช่ภาษาอังกฤษมักใช้โทเคนมากกว่าต่อคำ ดังนั้นวัดตัวอย่างจริงก่อนกำหนดงบประมาณสำหรับงานใหญ่

วิธีที่ง่ายที่สุดในการวัดคือการถาม API การตอบกลับทุกครั้งจะมีวัตถุ usage ที่มีจำนวนโทเคนพรอมต์และโทเคนคอมพลีชัน และการตอบกลับแบบสตรีมมิงจะส่งข้อมูลการใช้งานที่ท้ายสตรีม รันคำขอตัวแทนยี่สิบคำขอ หาค่าเฉลี่ยของตัวเลขทั้งสอง และคูณ

ตัวอย่างการคำนวณ: การขยายพรอมต์

พิจารณางานที่เขียนพรอมต์ข้อความสู่วิดีโอที่สมบูรณ์จากแนวคิดสั้นๆ ข้อความระบบรวมกับแนวคิดมีโทเคนอินพุต 600 ตัว และการตอบกลับมี 400 โทเคน

  • อินพุต: 600 x $0.15 / 1,000,000 = $0.00009
  • เอาต์พุต: 400 x $0.50 / 1,000,000 = $0.0002
  • รวมต่อคำขอ: $0.00029

ปรับขนาดขึ้น:

  • 1,000 คำขอ: $0.29
  • 10,000 คำขอ: $2.90
  • 100,000 คำขอ: $29.00

พูดอีกอย่างคือ เครดิตทดลองใช้ $0.50 ครอบคลุมคำขอเหล่านี้ได้ประมาณ 1,724 คำขอ (0.50 / 0.00029 = 1,724.1) และการเติมเงิน $20 ครอบคลุมคำขอเหล่านี้ได้ประมาณ 69,000 คำขอ สำหรับทีมขนาดเล็กและโครงการอดิเรก ค่าใช้จ่ายของพรอมต์มักไม่ใช่ส่วนที่กระทบงบประมาณ เครื่องมือที่บริโภคพรอมต์มักจะมีราคาแพงกว่ามาก

เครดิตทดลองใช้มีมูลค่า $0.50 ใช้ได้ 7 วัน โหลดสิทธิ์ด้วยการคลิกเดียวบนหน้าคีย์ API หลังการสมัครสมาชิก ต่อหนึ่งคน ไม่ต้องการบัตร ไม่มีระดับฟรีแบบต่อเนื่องเกินจากนั้น ดังนั้นวางแผนสำหรับเครดิตแบบเติมเงินล่วงหน้าเมื่อเครดิตทดลองใช้หมดลง

เหตุผลที่แชทยาวมีค่าใช้จ่ายมากกว่าที่คาด

การใช้งานแบบแชทเป็นจุดที่การประมาณการคลาดเคลื่อน API เป็น stateless ดังนั้นสำหรับทุกเทิร์นใหม่คุณต้องส่งการสนทนาทั้งหมดใหม่ อินพุตเพิ่มขึ้นตามทุกเทิร์นแม้ข้อความจะสั้น

สมมติว่าแชทมีระบบพรอมต์ 500 โทเคน ในแต่ละเทิร์นผู้ใช้เขียน 100 โทเคนและโมเดลตอบกลับด้วย 300 โทเคน เทิร์นที่ 1 ส่ง 600 โทเคน เทิร์นที่ 2 ส่ง 600 บวกกับ 400 จากเทิร์นที่ 1 ดังนั้น 1,000 เทิร์นแต่ละครั้งถัดไปเพิ่ม 400 อีก

  • อินพุตตลอด 10 เทิร์น: 10 x 600 + 400 x (0 + 1 + ... + 9) = 6,000 + 400 x 45 = 24,000 โทเคน
  • เอาต์พุตตลอด 10 เทิร์น: 10 x 300 = 3,000 โทเคน
  • ต้นทุนอินพุต: 24,000 x $0.15 / 1,000,000 = $0.0036
  • ต้นทุนเอาต์พุต: 3,000 x $0.50 / 1,000,000 = $0.0015
  • รวมสำหรับการสนทนาสิบรอบ: $0.0051

นั่นคือประมาณครึ่งเซ็นต์สำหรับการสนทนาทั้งหมด จำนวนเงินมีความสำคัญน้อยกว่ารูปแบบ: เทิร์นที่ 10 มีราคาแพงกว่าเทิร์นที่ 1 และอินพุตทั้งหมดเพิ่มขึ้นตามกำลังสองของจำนวนเทิร์น ยืดแชทเดียวกันเป็น 100 เทิร์นและอินพุตกลายเป็น 100 x 600 + 400 x 4,950 = 2,040,000 โทเคน ซึ่งคือ $0.306 โทเคนเอาต์พุต 30,000 ตัวเพิ่ม $0.015 รวมเป็น $0.321 การสนทนาเพิ่มขึ้นสิบเท่า ต้นทุนเพิ่มขึ้นประมาณ 63 เท่า

หากการใช้งานของคุณเป็นการแชทยาวนานหรือบทบาทสมมติ ตัดสินใจเมื่อจะตัดหรือสรุปการสนทนาเก่า การแทนที่ 80 การสนทนาแรกด้วยการสรุป 500 โทเคนสามารถลดคำขอแต่ละครั้งได้ และยังทำให้การสนทนาอยู่ในหน้าต่างบริบท 100,000 โทเคน

คำขอขนาดใหญ่หนึ่งคำขอในหน้าต่าง 100k

อีกขั้วหนึ่งคือคำขอขนาดใหญ่หนึ่งคำขอ: หนังสือต้นฉบับหนึ่งเล่ม ไฟล์บันทึก หรือชุดคำบรรยาย หน้าต่างบริบทมีขนาด 100,000 โทเคนสำหรับพรอมต์รวมกับการสร้างผลลัพธ์ ดังนั้นอินพุตขนาดใหญ่มากจึงเหลือพื้นที่สำหรับการสร้างผลลัพธ์ไม่มาก งานที่มีอินพุต 80,000 โทเคนและเอาต์พุต 2,000 โทเคนมีค่าใช้จ่าย:

  • อินพุต: 80,000 x $0.15 / 1,000,000 = $0.012
  • ผลลัพธ์: 2,000 x $0.50 / 1,000,000 = $0.001
  • รวม: $0.013

แม้แต่คำขอที่เติมหน้าต่างบริบทเกือบทั้งหมดก็มีค่าใช้จ่ายเพียงประมาณหนึ่งเซ็นต์ สาเหตุที่ไม่ควรหลีกเลี่ยงอินพุตยาวไม่ใช่ค่าใช้จ่าย แต่เป็นความเร็วและคุณภาพ: พรอมต์ที่ยาวมากใช้เวลานานกว่าในการประมวลผล และข้อเท็จจริงที่อยู่ตรงกลางอินพุตขนาดใหญ่นั้นโมเดลใด ๆ ก็อาจพลาดได้ง่าย หากคำตอบขึ้นอยู่กับย่อหน้าไม่กี่ย่อหน้า ให้ส่งเฉพาะย่อหน้าเหล่านั้น

ขีดจำกัดของบอดี้คือ 8 MB ต่อคำขอ ซึ่งสูงกว่าสิ่งที่หน้าต่างบริบทของโทเคนรองรับมาก ดังนั้นจำนวนโทเคนจะเป็นขีดจำกัดที่คุณจะถึงก่อน

สิ่งที่เติมเงินซื้อได้

เครดิตซื้อเป็นจำนวนเต็มดอลลาร์ตั้งแต่ $20 ถึง $500 การเติมเงินจำนวนมากขึ้นจะเพิ่มโบนัส: 5% จาก $50, 10% จาก $100 และ 15% จาก $200

คุณจ่ายโบนัสเครดิตที่เพิ่มการเรียกใช้การขยายพรอมต์ (ที่ $0.00029)
$20ไม่มี$20.00ประมาณ 69,000
$505% = $2.50$52.50ประมาณ 181,000
$10010% = $10$110.00ประมาณ 379,000
$20015% = $30$230.00ประมาณ 793,000

คุณสามารถจ่ายด้วยคริปโต (USDT บน TRC20, USDC บน Base) เนื่องจากเครดิตไม่หมดอายุเลย จึงไม่มีบทลงโทษสำหรับการซื้อจำนวนมากขึ้นและใช้ช้าๆ และโบนัสทำให้ตัวเลือกนี้น่าสนใจหากคุณรู้ว่าคุณจะใช้ API ต่อไป หากคุณไม่แน่ใจ ให้เริ่มที่ $20 อัตราปัจจุบันและแบบฟอร์มเติมเงินอยู่ที่หน้า ราคา

คำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่ถูกเรียกเก็บเงิน หากคำขอเกิดข้อผิดพลาดหรือโมเดลปฏิเสธ คุณไม่ต้องจ่ายสำหรับคำขอนั้น ซึ่งสำคัญเมื่อคุณลองใหม่ในลูป

ห้าวิธีเพื่อลดบิล

เนื่องจากอินพุตคือส่วนที่คุณควบคุมได้มากที่สุด ให้เริ่มจากตรงนั้น

  1. ปรับขนาดข้อความระบบให้เล็กลง พิจารณางานที่มีข้อความระบบ 2,000 โทเคน ไอเดีย 100 โทเคน และการตอบกลับ 300 โทเคน อินพุตคือ 2,100 โทเคน ดังนั้นการเรียกใช้มีค่าใช้จ่าย 2,100 x $0.15 / 1,000,000 + 300 x $0.50 / 1,000,000 = $0.000315 + $0.00015 = $0.000465 เมื่อทำ 10,000 ครั้งจะมีค่าใช้จ่าย $4.65 หากปรับขนาดข้อความระบบเหลือ 500 โทเคน การเรียกใช้จะมีค่าใช้จ่าย 600 x $0.15 / 1,000,000 + $0.00015 = $0.00009 + $0.00015 = $0.00024 หรือ $2.40 สำหรับ 10,000 ครั้ง คุณประหยัดได้ $2.25
  2. จำกัดเอาต์พุต ตั้งค่า max_tokens เป็นความยาวที่คุณต้องการ มันไม่บังคับ แต่การกำหนดเพดานจะช่วยป้องกันไม่ให้การตอบกลับยาวเกินควร
  3. ขอรูปแบบย่อ "ตอบกลับโดยมีเฉพาะพรอมต์" จะตัดส่วนนำที่คุณต้องจ่ายแล้วลบออก
  4. ทำแบทช์คำถามขนาดเล็ก คำถามสั้น ๆ สิบคำถามในคำขอเดียวจะแชร์ข้อความระบบเพียงครั้งเดียว แทนที่จะทำซ้ำสิบครั้ง
  5. สรุปการสนทนาเก่า ตามที่แสดงข้างต้น วิธีนี้จะทำให้เส้นโค้งการเติบโตลดลง

สิ่งเหล่านี้ไม่ต้องการเครื่องมือเฉพาะทาง การตรวจสอบคือสคริปต์ที่บันทึก usage จากแต่ละการตอบกลับ

from openai import OpenAI

client = OpenAI(
    base_url="https://api.veo3apis.com/v1",
    api_key="YOUR_API_KEY",
)

IN_PRICE = 0.15 / 1_000_000
OUT_PRICE = 0.50 / 1_000_000

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Write a 70 word prompt for a rainy street scene."}],
    max_tokens=200,
)

u = resp.usage
cost = u.prompt_tokens * IN_PRICE + u.completion_tokens * OUT_PRICE
print(u.prompt_tokens, u.completion_tokens, "tokens, about $%.6f" % cost)

คุณยังสามารถดูยอดคงเหลือโดยตรงได้: การตอบกลับแต่ละครั้งมีหัวข้อความ X-Balance-USD บันทึกไว้ถัดจาก ID คำขอจาก X-Request-Id และคุณสามารถตรวจสอบการใช้จ่ายเทียบกับจำนวนที่คุณนับได้เอง เพื่อเริ่มต้น ให้ขอเครดิตทดลองใช้ที่หน้า คีย์ API และอ่าน เอกสาร สำหรับรายการพารามิเตอร์เต็มรูปแบบ

01

ถาม-ตอบ

มีระดับฟรีหรือไม่?

ไม่ ผู้ใช้ใหม่สามารถขอเครดิตทดลองใช้ฟรี $0.50 ครั้งเดียว ซึ่งมีอายุ 7 วันและไม่ต้องใช้บัตร หลังจากนั้นคุณจะต้องจ่ายจากเครดิตแบบเติมเงินล่วงหน้า

คำขอที่ปฏิเสธหรือล้มเหลวมีค่าใช้จ่ายหรือไม่?

ไม่ คำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่ถูกเรียกเก็บเงิน

เครดิตหมดอายุหรือไม่?

ไม่มี เครดิตไม่หมดอายุ และไม่มีค่าสมัครสมาชิก

ฉันจะดูว่าคำขอหนึ่งมีค่าใช้จ่ายเท่าไร?

อ่านวัตถุการใช้งานในคำตอบสำหรับจำนวนโทเคน และส่วนหัว X-Balance-USD สำหรับยอดคงเหลือที่เหลือของคุณ

คีย์ของคุณอยู่ห่างแค่แบบฟอร์มเดียว

สร้างบัญชี คัดลอกคีย์ และเปลี่ยน base URL นั่นคือการตั้งค่าทั้งหมด

รับคีย์ APIอ่านเอกสาร