OpenAI संगत API क्विकस्टार्ट

बेस URL और प्रमाणीकरण सेटअप

अपने क्लाइंट को हमारे समर्पित एंडपॉइंट की ओर निर्देशित करके शुरू करें। हम मानक हेडर का उपयोग करते हैं ताकि आपका मौजूदा लॉजिक तुरंत काम करे।

• बेस यूआरएल: https://api.openaicompatibleapis.com/v1
• प्रमाणीकरण: Bearer टोकन द्वारा Authorization हेडर

डैशबोर्ड पर एक कुंजी जनरेट करें। फोन नंबर की आवश्यकता नहीं है।

चैट कंप्लीशंस एंडपॉइंट (POST /v1/chat/completions)

मानक चैट इंटरफ़ेस के माध्यम से प्रॉम्प्ट भेजें और टेक्स्ट प्रतिक्रियाएं प्राप्त करें। यह हमारे अनसेंसर्ड API का मुख्य हिस्सा है।

मॉडल ID है uncensored. यह 100,000 टोकन संदर्भ विंडो को कुशलता से संभालता है।

मॉडल सूचीबद्ध करने का अंत बिंदु (GET /v1/models)

उपलब्ध मॉडलों की जांच करके कनेक्टिविटी की पुष्टि करें। यह एंडपॉइंट एकमात्र अनकैप्ड LLM लौटाता है जिसे हम होस्ट करते हैं।

भारी पेलोड भेजने से पहले त्वरित हेल्थ चेक के लिए इसका उपयोग करें।

स्ट्रीमिंग रिस्पॉन्सेस और टोकन उपयोग

सर्वर-सेंट इवेंट्स (SSE) के माध्यम से रियल-टाइम डेटा प्राप्त करें। टोकन उपयोग की विवरण अंतिम चंक में दिखाई देते हैं।

उन UI के लिए अच्छा जो पूर्ण समाप्ति का इंतजार किए बिना तत्काल प्रतिक्रिया की आवश्यकता होती है।

फंक्शन कॉलिंग और JSON मोड

अपने आउटपुट को सटीक रूप से संरचित करें उपयोग करके response_format: json_object. टूल परिभाषाएं OpenAI स्पेसिफिकेशन की तरह ही काम करती हैं।

सेट करें tool_choice विशिष्ट व्यवहारों को बल देने के लिए। स्वचालित वर्कफ्लो के लिए आदर्श।

रेट लिमिट्स और टोकन बाधाएँ

स्थिरता सुनिश्चित करने के लिए सख्त सीमाएं लागू करें। प्रत्येक कुंजी प्रति मिनट 300 अनुरोध और 8 समवर्ती कनेक्शन की अनुमति देती है।

अधिकतम आउटपुट 16,000 टोकन है। त्रुटियाँ मुफ्त हैं। संदर्भ कुल 100k टोकन है।

cURL

Copycurl https://api.openaicompatibleapis.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "what is the current system time"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaicompatibleapis.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaicompatibleapis.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

स्ट्रीमिंग

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)