Permulaan Pantas API Serasi OpenAI

Persediaan URL Asas dan Pengesahan

Mula-mula, arahkan klien anda ke endpoint khusus kami. Kami menggunakan header piawai supaya logik sedia ada anda berfungsi serta-merta.

• URL Asas: https://api.openaicompatibleapis.com/v1
• Auth: Token Bearer melalui Authorization pencap

Jana kunci di papan pemuka. Tiada nombor telefon diperlukan.

Hujung Sambungan Penyelesaian Sembang (POST /v1/chat/completions)

Hantar arahan dan terima respons teks melalui antara muka semakan piawai. Ini adalah teras API tanpa sensor kami.

ID model ialah uncensored. Ia mengendalikan tetingkap konteks 100,000 token dengan cekap.

Penamat Senarai Model (GET /v1/models)

Sahkan sambungan dengan memeriksa model tersedia. Hujung ini mengembalikan LLM tanpa sensor tunggal yang kami hoskan.

Gunakan ini untuk pemeriksaan kesihatan pantas sebelum menghantar beban berat.

Penggunaan Token Respons Streaming

Terima data secara masa nyata melalui Server-Sent Events (SSE). Butiran penggunaan token muncul dalam potongan akhir.

Sangat sesuai untuk UI yang memerlukan maklum balas serta-merta tanpa menunggu penyelesaian penuh.

Panggilan Fungsi dan Mod JSON

Struktur output anda dengan tepat menggunakan response_format: json_object. Definisi alat berfungsi tepat seperti spesifikasi OpenAI.

Tetapkan tool_choice untuk memaksa tingkah laku khusus. Sangat sesuai untuk landasan kerja automatik.

Had had laju dan kekangan token

Kekalkan had ketat untuk memastikan kestabilan. Setiap kunci membolehkan 300 permintaan setiap minit dan 8 sambungan serentak.

Output maks ialah 16,000 token. Ralat adalah percuma. Konteks ialah 100k token jumlah.

cURL

Copycurl https://api.openaicompatibleapis.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "what is the current system time"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaicompatibleapis.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaicompatibleapis.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Aliran

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)