असीमित AI परियोजनाओं के लिए निजी LLM API कैसे चुनें

निजी LLM API क्या है?

एक निजी LLM API एक होस्टेड सेवा है जो एक मानक इंटरफ़ेस के माध्यम से एक बड़े भाषा मॉडल को प्रकट करती है, जो आमतौर पर OpenAI की संरचना के साथ संगत होती है। साझा सार्वजनिक इंस्टेंस या स्थानीय रनर के विपरीत, एक निजी API आपके अनुरोधों के लिए समर्पित कंप्यूट संसाधन प्रदान करती है। यह अलगाव स्थिर प्रदर्शन और लेटेंसी सुनिश्चित करता है, जो ऐसी एप्लिकेशन के लिए महत्वपूर्ण है जिन्हें विश्वसनीय प्रतिक्रिया समय की आवश्यकता होती है।

इस संदर्भ में 'निजी' शब्द मुख्य रूप से डेटा हैंडलिंग और एक्सेस नियंत्रण को संदर्भित करता है। जब आप एक निजी LLM API का उपयोग करते हैं, तो आपकी API कुंजी आपके अनुरोधों को प्रमाणीकृत करती है, और सेवा प्रदाता अपने सामान्य मॉडल के प्रशिक्षण के लिए आपके इनपुट डेटा का उपयोग न करने के लिए प्रतिबद्ध होता है। यह उन मुफ़्त या साझा टियर से अलग है जहां आपके प्रॉम्प्ट बेस मॉडल के वेट्स में योगदान कर सकते हैं।

NSFW या असीमित AI एप्लिकेशन बना रहे डेवलपर्स के लिए, एक निजी API सामग्री फ़िल्टर के खिलाफ लड़ने की घर्षण को समाप्त करता है। इसके बजाय कानूनी वयस्क सामग्री के लिए '403 Forbidden' प्रतिक्रियाएं प्राप्त करने के, आपको स्थिर टेक्स्ट आउटपुट मिलता है। API एक शुद्ध वाहक के रूप में कार्य करता है: टेक्स्ट इन, टेक्स्ट आउट। यह सरलता डिबगिंग जटिलता को कम कर देता है क्योंकि आप स्थानीय GPU ड्राइवर या मॉडल वर्जनिंग प्रबंधित नहीं कर रहे हैं। आप बस अपने क्लाइंट को API URL पर निर्देशित करते हैं और अनुरोध भेजते हैं।

NSFW परियोजनाओं के लिए 'बिना सेंसर' क्यों महत्वपूर्ण है

अधिकांश व्यावसायिक LLM मानव प्रतिक्रिया से पुनर्बल सीखने (RLHF) के साथ 'उपयोगी, निर्दोष और ईमानदार' होने के लिए ट्यून किए गए हैं। इसका अक्सर संवेदनशील सामग्री फ़िल्टर होता है जो यौन कथाएं उत्पन्न करने से इनकार कर देता है, राजनीतिक विवादों पर चर्चा करने से रोकता है, या सुरक्षा कमजोरियों का विश्लेषण करता है। एक बिना सेंसर LLM API इन कृत्रिम बाधाओं को हटा देता है। मॉडल को कानूनी वयस्क उपयोग के लिए बिना सेंसर उत्तर देने के लिए ट्यून किया गया है, जिससे आपको ऐसे एप्लिकेशन बनाने की अनुमति मिलती है जो किसी भी विषय को बिना अप्रत्याशित ब्लॉक के संभाल सकते हैं।

यह ध्यान रखना महत्वपूर्ण है कि 'बिना सेंसर' का अर्थ 'असीमित' नहीं है। अधिकांश प्रदाता, इस सेवा सहित, एक कठोर सामग्री सीमा बनाए रखते हैं: किशोरों से संबंधित यौन सामग्री अवरुद्ध है। यह एक मानक कानूनी सुरक्षा उपाय है। इसके अलावा, मॉडल ऐसी सामग्री उत्पन्न करेगा जिसे मानक वर्गीकारकों द्वारा फ्लैग किया जा सकता है, जिसमें स्पष्ट विवरण, विवादास्पद राय या रचनात्मक NSFW कथाएं शामिल हैं।

रचनाकारों के लिए, इसका अर्थ है कि आप एक चैटबॉट या कहानी जनरेटर बना सकते हैं जो वास्तव में उपयोगकर्ता की अपेक्षा के अनुसार व्यवहार करता है, बिना मॉडल के अचानक यह तय किए कि एक रोमांटिक दृश्य का वर्णन 'अनुचित' है। बिना सेंसर मॉडल रचनात्मक और वयस्क-उन्मुख उपयोग मामलों की एक व्यापक श्रृंखला का समर्थन करता है, जो NSFW चैटबॉट APIs, वयस्क गेमिंग NPCs और असीमित सामग्री जनरेशन टूल्स के लिए आदर्श बनाता है।

गोपनीयता: डेटा उपयोग और प्रशिक्षण नीतियां

जब आप LLM को डेटा भेजते हैं, तो दो चीजें होती हैं: मॉडल एक प्रतिक्रिया उत्पन्न करता है, और डेटा संग्रहीत या उपयोग किया जाता है। एक सार्वजनिक API में, आपके प्रॉम्प्ट डिबगिंग के लिए एक छोटे समय के लिए संग्रहीत किए जा सकते हैं या भविष्य के मॉडल संस्करणों के प्रशिक्षण के लिए उपयोग किए जा सकते हैं। एक निजी LLM API में, गोपनीयता नीति अक्सर अधिक स्पष्ट होती है। हमारी सेवा सुनिश्चित करती है कि प्रॉम्प्ट प्रशिक्षण के लिए उपयोग नहीं किए जाएंगे। आपका डेटा आपका ही रहता है।

खाता निर्माण के लिए केवल एक ईमेल और पासवर्ड की आवश्यकता होती है। ट्रायल टियर के लिए फोन नंबर या क्रेडिट कार्ड की आवश्यकता नहीं होती है। इससे आप प्रदाता के साथ साझा करने वाले व्यक्तिगत पहचान योग्य डेटा (PII) की मात्रा कम हो जाती है। API कुंजी आपके उपयोग के लिए एकमात्र पहचानकर्ता है। आप इसे किसी भी समय पुनः जनरेट कर सकते हैं, जो तुरंत पुरानी कुंजी को रद्द कर देता है, जो एक सरल सुरक्षा मॉडल प्रदान करता है जिसमें जटिल अनुमति स्कोप की आवश्यकता नहीं होती है।

NSFW परियोजनाओं के लिए, गोपनीयता अक्सर एक प्राथमिक चिंता होती है। उपयोगकर्ता संवेदनशील व्यक्तिगत कहानियों या प्राथमिकताएं साझा कर सकते हैं। यह जानने से कि आपका API प्रदाता आपके डेटा पर प्रशिक्षण नहीं देता है, इसका अर्थ है कि आपके उपयोगकर्ताओं के इंटरैक्शन गोपनीय रहते हैं। यह उन बड़ी तकनीकी कंपनियों से एक प्रमुख अंतर है जो अपने कोर मॉडल को बेहतर बनाने के लिए उपयोगकर्ता डेटा का उपयोग करती हैं। एक निजी API के साथ, आप अपने डेटा लाइनएज पर पूर्ण नियंत्रण बनाए रखते हैं।

OpenAI संगतता बनाम स्वामित्व SDKs

OpenAI संगतता का अर्थ है कि API OpenAI के Chat Completions एंडपॉइंट द्वारा उपयोग किए जाने वाले मानक JSON स्कीमा का पालन करता है। इससे आपको आधिकारिक OpenAI SDKs या किसी भी क्लाइंट का उपयोग करने की अनुमति मिलती है जो OpenAI फॉर्मेट का समर्थन करता है। आपको केवल अपने कॉन्फ़िगरेशन में बेस URL और API कुंजी बदलने की आवश्यकता होती है। इससे एकीकरण प्रयास काफी कम हो जाता है। यदि आपके पास GPT-4 के लिए बनाया गया मौजूदा कोड है, तो आप न्यूनतम परिवर्तनों के साथ एक बिना सेंसर मॉडल में स्विच कर सकते हैं।

स्वामित्व SDKs, जैसे कि Anthropic या Google के लिए, अक्सर विशिष्ट लाइब्रेरी की आवश्यकता होती हैं और स्ट्रीमिंग या टूल कॉलिंग को अद्वितीय तरीकों से संभालते हैं। एक OpenAI संगत API के साथ, आप कई मॉडल के लिए एक ही कोडबेस का उपयोग करते हैं। यह उन डेवलपर्स के लिए महत्वपूर्ण है जो लागत या प्रदर्शन के आधार पर मॉडल बदलना चाहते हैं बिना अपनी पूरी एप्लिकेशन परत को फिर से लिखे।

हमारी API Server-Sent Events (SSE) के माध्यम से स्ट्रीमिंग और टूल/फ़ंक्शन कॉलिंग का समर्थन करती है। ये OpenAI स्कीमा में मानक सुविधाएं हैं। स्ट्रीमिंग आपको टोकन को उपयोगकर्ता को भेजने की अनुमति देती है जैसे ही वे उत्पन्न होते हैं, जिससे अनुभवजन्य लेटेंसी में सुधार होता है। टूल कॉलिंग मॉडल को फ़ंक्शन निष्पादित करने की अनुमति देती है, जो AI एजेंट बनाने के लिए आवश्यक है। दोनों सुविधाएं मानक संगतता परत के भीतर काम करती हैं, सुनिश्चित करती हैं कि आप बिना सेंसर प्रदाता में स्विच करते समय कोई कार्यक्षमता खो नहीं देते।

कॉन्टेक्स्ट विंडो और टोकन लागत को समझना

कॉन्टेक्स्ट विंडो निर्धारित करता है कि मॉडल एकल संवाद में कितना टेक्स्ट याद रख सकता है। एक 100,000-टोकन कॉन्टेक्स्ट विंडो महत्वपूर्ण इतिहास की अनुमति देता है, जटिल बहु-चरनीय संवादों या बड़े दस्तावेजों को संसाधित करने की अनुमति देता है। यह पुराने मॉडल की 8,000-टोकन सीमा से काफी बड़ा है, जो अधिक सहज लंबे-प्रारूप इंटरैक्शन की अनुमति देता है।

टोकन लागत प्रति मिलियन टोकन की गणना की जाती है। इनपुट टोकन वह टेक्स्ट है जो आप भेजते हैं (प्रॉम्प्ट), और आउटपुट टोकन वह टेक्स्ट है जो मॉडल उत्पन्न करता है (पूर्णता)। हमारे मूल्य निर्धारण मॉडल में, इनपुट टोकन की लागत 1M टोकन के लिए $0.25 है, और आउटपुट टोकन की लागत 1M टोकन के लिए $1.00 है। इसका अर्थ है कि टेक्स्ट जनरेट करना पढ़ने से चार गुना अधिक महंगा है, जो ट्रांसफॉर्मर-आधारित मॉडल के लिए सामान्य है।

लागत का अनुमान लगाते समय, यह विचार करें कि एक बड़े कॉन्टेक्स्ट विंडो के साथ एक लंबी बातचीत इनपुट टोकन को जल्दी खर्च करेगी। यदि आप एक चैटबॉट बना रहे हैं जो पूरा इतिहास बनाए रखता है, तो आपकी इनपुट लागत बढ़ जाएगी। हालांकि, पे-एज़-यू-गो मूल्य निर्धारण का अर्थ है कि आप केवल उसी के लिए भुगतान करते हैं जिसका आप उपयोग करते हैं। क्षमता आरक्षित करने के लिए कोई मासिक शुल्क नहीं है। आप किसी भी समय API का उपयोग करना बंद कर सकते हैं और कुछ भी नहीं देना चाहिए।

पे-एज़-यू-गो बनाम सब्सक्रिप्शन मॉडल

सब्सक्रिप्शन मॉडल एक निश्चित मासिक शुल्क लेते हैं एक निश्चित संख्या के अनुरोधों या टोकन के लिए। यदि आप अपनी आवंटन का उपयोग नहीं करते हैं, तो आप मूल्य खो देते हैं। यदि आप इसे पार कर जाते हैं, तो आप ओवरऑन शुल्क देते हैं। पे-एज़-यू-गो (PAYG) केवल वास्तविक उपयोग के लिए शुल्क लेता है। हमारी API एक प्रीपेड क्रेडिट सिस्टम का उपयोग करती है। आप धन जोड़ते हैं, और आपका बैलेंस बढ़ते अनुरोधों के साथ कम होता जाता है। प्रीपेड क्रेडिट कभी समाप्त नहीं होता।

परिवर्तनीय उपयोग पैटर्न के लिए, PAYG अधिक कुशल है। यदि आपके प्रोजेक्ट में ट्राफिक में वृद्धि होती है, तो आपको तुरंत उच्च टियर में अपग्रेड करने की आवश्यकता नहीं है। आप बस यह सुनिश्चित करते हैं कि आपका प्रीपेड बैलेंस पर्याप्त है। यदि उपयोग कम हो जाता है, तो आप आइडल क्षमता के लिए भुगतान नहीं करते हैं। यह इंडी डेवलपर्स, स्टार्टअप्स या रचनाकारों के लिए आदर्श है जो अपने मॉडल को बड़ी इंफ्रास्ट्रक्चर में प्रतिबद्ध करने से पहले परीक्षण कर रहे हैं।

हम बड़े टॉप-अप के लिए बोनस क्रेडिट भी प्रदान करते हैं। $50 जोड़ने से आपको +5% बोनस मिलता है, और $100 जोड़ने से आपको +10% बोनस मिलता है। यह प्रति टोकन प्रभावी लागत को कम करता है। कोई छिपा शुल्क या ओवरऑन नीति नहीं है। आपके अनुरोध तब तक प्रसंस्कृत किए जाते हैं जब तक कि आपका क्रेडिट बैलेंस टोकन लागत को कवर करता है। यह पारदर्शिता बजट बनाने को सरल बनाती है।

तकनीकी आवश्यकताएं: स्ट्रीमिंग और टूल कॉलिंग

स्ट्रीमिंग एक अच्छे उपयोगकर्ता अनुभव के लिए आवश्यक है। पूरी प्रतिक्रिया उत्पन्न होने का इंतजार करने के बजाय, API टेक्स्ट के चंक को उत्पन्न होते ही भेजता है। इससे अनुभवजन्य लेटेंसी कम हो जाती है और उपयोगकर्ताओं को तुरंत पढ़ना शुरू करने की अनुमति मिलती है। हमारी API Server-Sent Events (SSE) के माध्यम से स्ट्रीमिंग का समर्थन करती है, जो OpenAI संगत क्लाइंट्स के लिए मानक है।

टूल कॉलिंग (या फ़ंक्शन कॉलिंग) मॉडल को संरचित डेटा आउटपुट करने की अनुमति देती है जिसे आपकी एप्लिकेशन निष्पादित कर सकता है। उदाहरण के लिए, मॉडल 'get_weather' फ़ंक्शन को कॉल करने का निर्णय ले सकता है। API फ़ंक्शन के नाम और तर्कों के साथ एक JSON ऑब्जेक्ट लौटाता है। आपका कोड फ़ंक्शन निष्पादित करता है और अंतिम उत्तर के लिए परिणाम को वापस मॉडल को भेजता है। यह बाहरी प्रणालियों के साथ इंटरैक्ट करने वाले AI एजेंट बनाने के लिए महत्वपूर्ण है।

दोनों सुविधाएं मानक POST /v1/chat/completions एंडपॉइंट के माध्यम से उपलब्ध हैं। आपको मानक OpenAI स्कीमा के अलावा विशेष हेडर या पैरामीटर की आवश्यकता नहीं है। यह सुनिश्चित करता है कि आपका एकीकरण पोर्टेबल रहता है। यदि आपको भविष्य में प्रदाता बदलने की आवश्यकता होती है, तो कोड संरचना समान रहती है।

अपने स्टैक में API को एकीकृत कैसे करें

यदि आपकी एप्लिकेशन एक OpenAI संगत क्लाइंट का उपयोग करती है, तो एकीकरण सरल है। आपको दो जानकारी की आवश्यकता है: बेस URL और आपकी API कुंजी। हमारी API के लिए बेस URL है https://api.anonymousllmapi.com/v1। मॉडल ID है uncensored।

Python उपयोगकर्ताओं के लिए, आप openai लाइब्रेरी इंस्टॉल कर सकते हैं और क्लाइंट कॉन्फ़िगर कर सकते हैं। नीचे दिया गया कोड नमूना दिखाता है कि बेस URL कैसे सेट करें और एक अनुरोध कैसे करें।

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.anonymousllmapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js उपयोगकर्ताओं के लिए, प्रक्रिया समान है। आप कॉन्फ़िगरेशन में baseURL सेट करते हैं। नीचे दिया गया कोड नमूना इसे प्रदर्शित करता है।

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.anonymousllmapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

त्वरित परीक्षण के लिए, आप curl का उपयोग करके एंडपॉइंट में सीधे एक अनुरोध भेज सकते हैं। यह डिबगिंग या कनेक्टिविटी की जांच करने के लिए उपयोगी है।

Copycurl https://api.anonymousllmapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

ये उदाहरण मानते हैं कि आप आधिकारिक लाइब्रेरी का उपयोग कर रहे हैं। यदि आप एक अलग क्लाइंट का उपयोग करते हैं, तो सुनिश्चित करें कि यह कस्टम बेस URL का समर्थन करता है। API कुंजी साइनअप के तुरंत बाद प्रदान की जाती है। ट्रायल के लिए कार्ड की आवश्यकता नहीं है, जिसमें 7 दिनों के लिए मान्य $0.50 का क्रेडिट शामिल है।

बिना सेंसर API चुनने के लिए अंतिम चेकलिस्ट

API के साथ जुड़ने से पहले, निम्नलिखित मानदंडों की जाँच करें ताकि यह सुनिश्चित हो सके कि यह आपके प्रोजेक्ट की आवश्यकताओं को पूरा करता है:

• गोपनीयता नीति: पुष्टि करें कि प्रॉम्प्ट को ट्रेनिंग के लिए उपयोग नहीं किया जाता है। हमारी सेवा आपके डेटा का उपयोग ट्रेनिंग के लिए नहीं करती है।
• कंटेंट फ़िल्टर: सुनिश्चित करें कि मॉडल कानूनी वयस्क सामग्री की अनुमति देता है। हमारा मॉडल बिना सेंसर प्रतिक्रियाओं के लिए ट्यून्ड है।
• मूल्य निर्धारण मॉडल: चर उपयोग के लिए सब्सक्रिप्शन के बजाय pay-as-you-go को प्राथमिकता दें। हमारा प्रीपेड क्रेडिट कभी समाप्त नहीं होता।
• संगतता: आसान एकीकरण के लिए OpenAI संगतता की जाँच करें। हमारा एंडपॉइंट मानक एंडपॉइंट्स का समर्थन करता है।
• रेट लिमिट: प्रति मिनट अनुरोधों की सीमा जाँचें। हमारी सीमा प्रति कुंजी प्रति मिनट 300 अनुरोध है।
• कॉन्टेक्स्ट विंडो: सुनिश्चित करें कि कॉन्टेक्स्ट विंडो आपके उपयोग मामले के लिए पर्याप्त है। हमारा मॉडल 100,000 टोकन का समर्थन करता है।

इस चेकलिस्ट का पालन करके, आप सामान्य गलतियों से बच सकते हैं और एक ऐसा API चुन सकते हैं जो तकनीकी रूप से मजबूत हो और आपकी गोपनीयता और सामग्री आवश्यकताओं के अनुरूप हो।