क्विकस्टार्ट: OpenAI-कम्पैटिबल एंडपॉइंट के साथ इंटीग्रेट करें

आवश्यकताएँ: बेस URL और प्रमाणीकरण

Get API key पेज पर जाकर एक कुंजी जनरेट करें। Google या अपने ईमेल और पासवर्ड से साइन इन करें ताकि आपकी क्रेडेंशियल तुरंत मिल जाए। फ़ोन नंबर की आवश्यकता नहीं है।

अपना बेस URL HTTPS://api.apicost.cc/v1 पर सेट करें। उत्पन्न की को अपने Authorization हेडर में Bearer टोकन के रूप में उपयोग करें। यह किसी भी मानक OpenAI SDK क्लाइंट के साथ काम करता है।

आपके खाते के लिए केवल एक सक्रिय कुंजी की आवश्यकता होती है। एक नई कुंजी पुरानी कुंजी को प्रतिस्थापित कर देती है। आपके प्रॉम्प्ट को प्रशिक्षण के लिए उपयोग नहीं किया जाता है।

अपनी पहली रिक्वेस्ट भेजना: सिंपल चैट कंप्लीशन

"uncensored" मॉडल सेट करके /v1/chat/completions पर POST अनुरोध करें। messages एरे में अपना यूजर संदेश भेजें। API एक टेक्स्ट प्रतिक्रिया लौटाता है।

प्रत्येक अनुरोध आपके टोकन उपयोग में गिनता है। इनपुट टोकन की लागत प्रति मिलियन $0.15 है। आउटपुट टोकन की लागत प्रति मिलियन $0.50 है। त्रुटियां और अस्वीकृतियां मुफ्त हैं।

सुनिश्चित करें कि आपके अनुरोध बॉडी 8 MB से कम रहे। प्रति अनुरोध अधिकतम आउटपुट 16,000 टोकन है।

Copycurl https://api.apicost.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current price per million tokens?"}]
  }'

रियल-टाइम UI अपडेट्स के लिए स्ट्रीमिंग रिस्पॉन्स

स्ट्रीम-पैरामीटर को true सेट करके स्ट्रीमिंग सक्षम करें। API एकल JSON ऑब्जेक्ट के बजाय सर्वर-सेंट इवेंट्स (SSE) लौटाती है।

प्रत्येक चंक को अपने UI को रियल-टाइम में अपडेट करने के लिए पार्स करें। अंतिम चंक में अनुरोध के लिए कुल टोकन उपयोग होता है। यह आपको लागत को सटीक रूप से ट्रैक करने में मदद करता है।

स्ट्रीमिंग सभी स्टैंडर्ड पैरामीटर के साथ काम करता है। आप यदि आवश्यक हो तो अनुरोध को जल्दी रद्द कर सकते हैं। सर्वर तुरंत प्रोसेसिंग बंद कर देता है।

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apicost.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

रचनात्मकता का नियंत्रण: तापमान, top_p और सीड

रैंडमनेस को नियंत्रित करने के लिए तापमान (temperature) को एडजस्ट करें। कम मान प्रतिक्रियाओं को अधिक निर्धारणात्मक (deterministic) बनाते हैं। उच्च मान रचनात्मकता बढ़ाते हैं।

nucleus सैंपलिंग रेंज को सीमित करने के लिए top_p सेट करें। डीबगिंग के लिए विशिष्ट आउटपुट को पुनरुत्पादित करने के लिए बीज का उपयोग करें। ये पैरामीटर ओपनएपीआई API की तरह ही काम करते हैं।

अपने उपयोग मामले के लिए मॉडल को ट्यून करने के लिए इन सेटिंग्स को जोड़ें। कोडिंग कार्यों के लिए अक्सर कम तापमान लाभदायक होता है। रचनात्मक लेखन को उच्च मानों की आवश्यकता हो सकती है।

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apicost.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

JSON मोड और फंक्शन कॉलिंग के साथ संरचित आउटपुट

सख्त JSON आउटपुट्स के लिए response_format को json_object पर सेट करें। मॉडल मार्कडाउन फॉर्मेटिंग के बिना वैध JSON लौटाएगा। यह आपके एप्लिकेशन में डेटा पार्स करने के लिए उपयोगी है।

फंक्शन कॉलिंग आपको अपने रिक्वेस्ट में टूल्स परिभाषित करने की अनुमति देती है। मॉडल यूजर इनपुट के आधार पर इन टूल्स को कॉल कर सकता है। टूल_चॉइस का उपयोग करके नियंत्रित करें कि मॉडल कब टूल कॉल करे।

दोनों फीचर्स मानक OpenAI स्कीमा का पालन करते हैं। आप एक ही रिक्वेस्ट में मल्टीपल टूल्स परिभाषित कर सकते हैं। मॉडल रूटिंग को स्वचालित रूप से हैंडल करता है।

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

कॉन्टेस्ट विंडो और टोकन सीमाओं को समझना

संदर्भ विंडो 100,000 टोकन की है। इसमें इनपुट और आउटपुट टोकन दोनों शामिल हैं। आप बिना संदर्भ खोए लंबे दस्तावेज़ भेज सकते हैं।

रेट लिमिट्स प्रति कुंजी प्रति मिनट 300 अनुरोध हैं। आप एक साथ 8 समवर्ती अनुरोध कर सकते हैं। इन सीमाओं को पार करने पर 429 त्रुटि लौटाई जाती है।

अपने कोड में त्रुटियों को सहजता से हैंडल करें। 401 त्रुटि का अर्थ है कि आपकी कुंजी अमान्य है। 402 त्रुटि का अर्थ है कि आपके पास कोई क्रेडिट नहीं है। जारी रखने के लिए क्रिप्टो के साथ टॉप अप करें।