HI ▾
API कुंजी पाएँ

LLM API प्रॉम्प्ट लागत: अपने टोकन बजट करें

मूल्य $0.15 प्रति 1M इनपुट टोकन और $0.50 प्रति 1M आउटपुट टोकन हैं। यहाँ बताया गया है कि अपने स्वयं के प्रॉम्प्ट के लिए बजट कैसे बनाएं।

अपडेट किया गया

प्रॉम्प्ट लागत को दर्शाने के लिए सिक्के के सामने चमकते टोकन घनों के खिलाफ संतुलन पैमाना

मुख्य बिंदु

  • 600 इनपुट और 400 आउटपुट वाले प्रॉम्प्ट कॉल की लागत $0.00029 होती है; 1,000 कॉल की लागत $0.29 होती है।
  • आउटपुट टोकन की लागत इनपुट टोकन से 3 और एक तिहाई गुना अधिक है।
  • चैट इतिहास हर चरण में फिर से भेजा जाता है, इसलिए लंबी चैट्स की लागत छोटी चैट्स की तुलना में बहुत अधिक होती है।
  • $20 से प्रीपेड क्रेडिट कभी समाप्त नहीं होता; $0.50 का ट्रायल उपलब्ध है, लेकिन कोई फ्री टियर नहीं है।

संक्षिप्त उत्तर, संख्याओं के साथ

इस API पर, LLM API प्रॉम्प्ट लागत बताना सरल है: 1 मिलियन इनपुट टोकन के लिए $0.15 और 1 मिलियन आउटपुट टोकन के लिए $0.50। एक सामान्य प्रॉम्प्ट-विस्तार कॉल, जिसमें 600 टोकन इनपुट होते हैं और 400 आउटपुट होते हैं, की लागत $0.00029 होती है, जिसका अर्थ है कि 1,000 ऐसे कॉल की लागत $0.29 होती है। कोई सदस्यता और कोई मासिक न्यूनतम नहीं है। आप प्रीपेड क्रेडिट से भुगतान करते हैं, और क्रेडिट कभी समाप्त नहीं होता।

इस लेख का शेष भाग दिखाता है कि उन दो कीमतों से एक ऐसी बजट तक कैसे पहुँचें जिस पर आप भरोसा कर सकें: टोकन कैसे गिनें, लंबी बातचीत की वास्तविक लागत क्या है, टॉप-अप से क्या मिलता है, और प्रॉम्प्ट को कहाँ कम किया जा सकता है। नीचे दी गई हर संख्या दोनों दरों से गणना की गई है, और गणित दिखाया गया है ताकि आप अपने आंकड़ों से इसे दोहरा सकें।

कामइनपुट टोकनआउटपुट टोकनप्रत्येक कॉल की लागत
प्रॉम्प्ट एक्सपेंशन600400$0.00029
लंबा सिस्टम प्रॉम्प्ट, छोटा उत्तर2,100300$0.000465
100k विंडो में बड़ा दस्तावेज़80,0002,000$0.013

टोकन डॉलर कैसे बनते हैं

एक LLM बिल में दो पंक्तियाँ होती हैं। इनपुट टोकन वह सब कुछ है जो आप भेजते हैं: सिस्टम मैसेज, बातचीत के पिछले चरण, किसी भी पेस्ट किए गए दस्तावेज़ और नया प्रश्न। आउटपुट टोकन वह है जो मॉडल वापस लिखता है। यहाँ आउटपुट की लागत प्रति टोकन अधिक है, $0.50 बनाम $0.15 प्रति मिलियन, इसलिए प्रत्येक आउटपुट टोकन की कीमत इनपुट टोकन की तुलना में 3 और एक तिहाई गुना है। एक लंबा उत्तर उसी लंबाई के एक लंबे प्रश्न से अधिक महंगा है।

एकल कॉल के लिए सूत्र है:

cost = input_tokens x 0.15 / 1,000,000 + output_tokens x 0.50 / 1,000,000

अंग्रेजी पाठ के लिए एक अनुमानित नियम यह है कि एक टोकन लगभग चार वर्णों या तीन चौथाई शब्द के बराबर होता है। एक 300-शब्द का प्रॉम्प्ट लगभग 400 टोकन का होता है। यह केवल एक अनुमान है। कोड, संख्याएँ और गैर-अंग्रेजी पाठ आमतौर पर प्रति शब्द अधिक टोकन लेते हैं, इसलिए किसी बड़े कार्य की बजट बनाने से पहले एक वास्तविक नमूने को मापें।

मापने का सबसे आसान तरीका API से पूछना है। प्रत्येक प्रतिक्रिया में usage ऑब्जेक्ट होता है जिसमें प्रॉम्प्ट और कंप्लीशन टोकन गणना होती है, और स्ट्रीम की गई प्रतिक्रिया स्ट्रीम के अंत में उपयोग भेजती है। बीस प्रतिनिधि अनुरोध चलाएँ, दोनों संख्याओं का औसत निकालें और गुणा करें।

व्यवहारिक उदाहरण: प्रॉम्प्ट का विस्तार

एक कार्य लें जो एक छोटे विचार से एक तैयार टेक्स्ट-टू-वीडियो प्रॉम्प्ट लिखता है। सिस्टम मैसेज और विचार मिलकर 600 इनपुट टोकन का बनते हैं, और जवाब 400 टोकन का है।

  • इनपुट: 600 x $0.15 / 1,000,000 = $0.00009
  • आउटपुट: 400 x $0.50 / 1,000,000 = $0.0002
  • प्रति कॉल कुल: $0.00029

इसे बढ़ाएँ:

  • 1,000 कॉल: $0.29
  • 10,000 कॉल: $2.90
  • 100,000 कॉल: $29.00

दूसरे शब्दों में, $0.50 का ट्रायल क्रेडिट इनमें से लगभग 1,724 कॉल कवर करता है (0.50 / 0.00029 = 1,724.1), और $20 का टॉप-अप इनमें से लगभग 69,000 को कवर करता है। छोटी टीमों और शौक के प्रोजेक्टों के लिए, प्रॉम्प्ट की लागत दुर्लभ रूप से बजट का वह हिस्सा होती है जो अधिक दर्द देती है। प्रॉम्प्ट खपत करने वाला टूल आमतौर पर बहुत अधिक महंगा होता है।

ट्रायल क्रेडिट $0.50 है, 7 दिनों के लिए मान्य है, साइन-अप के बाद API कुंजी पेज पर एक क्लिक से क्लेम किया जाता है, प्रति व्यक्ति एक। इसके लिए कार्ड की आवश्यकता नहीं है। इसके बाद कोई दोहराया जाने वाला मुफ़्त ट्रायल क्रेडिट नहीं है, इसलिए ट्रायल खत्म होने के बाद प्रीपेड क्रेडिट की योजना बनाएँ।

लंबी चैट्स को अपेक्षा से अधिक क्यों खर्च होती हैं

चैट-शैली का उपयोग वहां होता है जहां अनुमान गलत हो जाते हैं। API स्टेटलेस है, इसलिए हर नए टर्न के लिए आपको पूरी बातचीत फिर से भेजनी होती है। इनपुट हर टर्न के साथ बढ़ता है भले ही हर मैसेज छोटा हो।

मान लें कि एक चैट में 500-टोकन का सिस्टम मैसेज है। प्रत्येक टर्न में उपयोगकर्ता 100 टोकन लिखता है और मॉडल 300 टोकन के साथ जवाब देता है। टर्न 1 में 600 टोकन भेजे जाते हैं। टर्न 2 में टर्न 1 के 400 टोकन के अलावा 600 भेजे जाते हैं, यानी 1,000। प्रत्येक बाद के टर्न में 400 और जुड़ते हैं।

  • 10 टर्न में इनपुट: 10 x 600 + 400 x (0 + 1 + ... + 9) = 6,000 + 400 x 45 = 24,000 टोकन
  • 10 टर्न में आउटपुट: 10 x 300 = 3,000 टोकन
  • इनपुट लागत: 24,000 x $0.15 / 1,000,000 = $0.0036
  • आउटपुट लागत: 3,000 x $0.50 / 1,000,000 = $0.0015
  • दस-टर्न चैट के लिए कुल: $0.0051

यह एक पूरी बातचीत के लिए लगभग आधा सेंट है। राशि आकार से कम मायने रखती है: टर्न 10 की लागत टर्न 1 से कहीं अधिक होती है, और कुल इनपुट टर्न्स की संख्या के वर्ग के साथ बढ़ता है। उसी चैट को 100 टर्न्स तक खींचें और इनपुट 100 x 600 + 400 x 4,950 = 2,040,000 टोकन बन जाता है, जो $0.306 है। 30,000 आउटपुट टोकन $0.015 जोड़ते हैं, कुल $0.321। टर्न्स को दस गुना करने पर, लागत लगभग 63 गुना हो जाती है।

यदि आपका उपयोग लंबे समय तक चलने वाली चैट या रोलप्ले है, तो पुराने टर्न को काटने या सारांश बनाने का समय निर्धारित करें। पहले 80 टर्न को एक 500-टोकन सारांश से बदलने से हर बाद के अनुरोध को कम किया जा सकता है, और यह बातचीत को 100,000-टोकन विंडो के भीतर भी रखता है।

एक बड़ा अनुरोध 100k विंडो में

दूसरा चरम एक विशाल अनुरोध है: एक लंबा पांडुलिपि, एक लॉग फ़ाइल, ट्रांसक्रिप्ट का सेट। विंडो प्रॉम्प्ट और कम्पलीशन दोनों मिलाकर 100,000 टोकन की है, इसलिए सबसे बड़ा इनपुट आउटपुट के लिए कम जगह छोड़ता है। 80,000 इनपुट टोकन और 2,000 आउटपुट टोकन वाले कार्य की लागत है:

  • इनपुट: 80,000 x $0.15 / 1,000,000 = $0.012
  • आउटपुट: 2,000 x $0.50 / 1,000,000 = $0.001
  • कुल: $0.013

यहाँ तक कि विंडो के अधिकांश हिस्से को भरने वाला एक अनुरोध लगभग एक सेंट का खर्च करता है। लंबे इनपुट से बचने का कारण लागत नहीं है। गति और गुणवत्ता कारण हैं: एक बहुत लंबा प्रॉम्प्ट प्रोसेस करने में अधिक समय लेता है, और एक विशाल इनपुट के बीच में तथ्यों को किसी भी मॉडल द्वारा छूट जाना आसान है। यदि उत्तर कुछ पैराग्राफ पर निर्भर है, तो वे पैराग्राफ भेजें।

बॉडी की सीमा प्रति अनुरोध 8 MB है, जो टोकन विंडो में फिट होने से कहीं अधिक है, इसलिए टोकन गणना वह सीमा होगी जिस तक आप पहले पहुँचेंगे।

टॉप-अप से क्या मिलता है

क्रेडिट $20 से $500 तक पूर्ण डॉलर राशि में खरीदा जाता है। बड़े टॉप-अप पर बोनस मिलता है: $50 से 5%, $100 से 10% और $200 से 15%।

आप भुगतान करते हैंबोनसजमा किया गया क्रेडिटप्रॉम्प्ट-एक्सपेंशन कॉल्स ($0.00029 पर)
$20कोई$20.00लगभग 69,000
$505% = $2.50$52.50लगभग 181,000
$10010% = $10$110.00लगभग 379,000
$20015% = $30$230.00लगभग 793,000

आप क्रिप्टो (TRC20 पर USDT, Base पर USDC) से भुगतान कर सकते हैं। चूँकि क्रेडिट कभी एक्सपायर नहीं होता, इसलिए बड़ी राशि खरीदने और उसे धीरे-धीरे इस्तेमाल करने का कोई पेनाल्टी नहीं है, और बोनस उस विकल्प को आकर्षक बनाता है यदि आप जानते हैं कि आप API का उपयोग जारी रखेंगे। यदि आप अनिश्चित हैं, तो $20 से शुरू करें। वर्तमान दरें और टॉप-अप फॉर्म मूल्य निर्धारण पेज पर हैं।

अस्वीकृत या विफल अनुरोधों के लिए चार्ज नहीं किया जाता है। यदि कोई अनुरोध त्रुटि देता है या मॉडल अस्वीकार कर देता है, तो आपको इसके लिए नहीं चुकाना पड़ता, जो जब आप लूप में रीट्राई करते हैं तो मायने रखता है।

बिल कम करने के पाँच तरीके

क्योंकि इनपुट वह हिस्सा है जिसे आप सबसे अधिक नियंत्रित कर सकते हैं, वहाँ से शुरू करें।

  1. सिस्टम संदेश को कम करें। एक कार्य लें जिसमें 2,000-टोकन सिस्टम संदेश, 100-टोकन विचार और 300-टोकन प्रतिक्रिया है। इनपुट 2,100 टोकन है, इसलिए कॉल की लागत 2,100 x $0.15 / 1,000,000 + 300 x $0.50 / 1,000,000 = $0.000315 + $0.00015 = $0.000465 है। 10,000 कॉल्स पर यह $4.65 है। सिस्टम संदेश को 500 टोकन तक काटें और कॉल 600 x $0.15 / 1,000,000 + $0.00015 = $0.00009 + $0.00015 = $0.00024 होगी, या 10,000 कॉल्स के लिए $2.40। आप $2.25 बचाते हैं।
  2. आउटपुट को सीमित करें। max_tokens को अपनी आवश्यक लंबाई पर सेट करें। यह वैकल्पिक है, लेकिन एक ऊपरी सीमा आपको अनावश्यक प्रतिक्रिया से बचाती है।
  3. संक्षिप्त रूप माँगें। "केवल प्रॉम्प्ट के साथ जवाब दें" उन प्रीएम्बल्स को हटा देता है जिनके लिए आप भुगतान करते हैं और फिर डिलीट करते हैं।
  4. छोटे प्रश्नों को बैच करें। एक अनुरोध में दस छोटे प्रश्न एक सिस्टम संदेश साझा करते हैं, इसे दस बार दोहराने के बजाय।
  5. पुरानी चैट टर्न्स का सारांश बनाएं। जैसा कि ऊपर दिखाया गया है, यह वृद्धि वक्र को समतल करता है।

इसके लिए विशेष टूलिंग की आवश्यकता नहीं है। जाँच एक स्क्रिप्ट है जो प्रत्येक प्रतिक्रिया से usage लॉग करती है।

from openai import OpenAI

client = OpenAI(
    base_url="https://api.veo3apis.com/v1",
    api_key="YOUR_API_KEY",
)

IN_PRICE = 0.15 / 1_000_000
OUT_PRICE = 0.50 / 1_000_000

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Write a 70 word prompt for a rainy street scene."}],
    max_tokens=200,
)

u = resp.usage
cost = u.prompt_tokens * IN_PRICE + u.completion_tokens * OUT_PRICE
print(u.prompt_tokens, u.completion_tokens, "tokens, about $%.6f" % cost)

आप शेष राशि सीधे भी देख सकते हैं: प्रत्येक प्रतिक्रिया में X-Balance-USD हेडर शामिल होता है। इसे X-Request-Id से प्राप्त अनुरोध ID के साथ लॉग करें और अपने रिकॉर्ड के अनुसार खर्च की मेल करें। शुरू करने के लिए, API कुंजी पृष्ठ पर ट्रायल क्लेम करें और पूर्ण पैरामीटर सूची के लिए दस्तावेज़ पढ़ें।

01

प्रश्न और उत्तर

क्या कोई मुफ्त स्तर है?

नहीं। नए उपयोगकर्ता एक बार के $0.50 ट्रायल क्रेडिट का दावा कर सकते हैं, जो 7 दिनों के लिए मान्य है और कार्ड की आवश्यकता नहीं है। उसके बाद आपको प्रीपेड क्रेडिट से भुगतान करना होता है।

क्या अस्वीकृत या विफल अनुरोधों के लिए पैसे खर्च होते हैं?

नहीं। विफल या अस्वीकृत अनुरोधों पर कोई शुल्क नहीं लगाया जाता।

क्या क्रेडिट खत्म होता है?

नहीं। क्रेडिट कभी समाप्त नहीं होता, और कोई सब्सक्रिप्शन नहीं है।

एक अनुरोध की लागत आप कैसे देख सकते हैं?

प्रतिक्रिया में उपयोग ऑब्जेक्ट में टोकन गणना और शेष राशि के लिए X-Balance-USD हेडर पढ़ें।

आपकी कुंजी बस एक फॉर्म दूर है

एक खाता बनाएँ, कुंजी कॉपी करें, बेस URL बदलें। सेटअप यही है।

API कुंजी प्राप्त करेंदस्तावेज़ पढ़ें