Швидкий старт API, сумісного з OpenAI

Налаштування базової URL-адреси та аутентифікації

Почніть з того, щоб вказати клієнту нашу спеціальну кінцеву точку. Ми використовуємо стандартні заголовки, тому ваша існуюча логіка працює одразу.

• Базовий URL: https://api.openaicompatibleapis.com/v1
• Автентифікація: Bearer-токен через Authorization header

Згенеруйте ключ на панелі керування. Номер телефону не потрібен.

Ендпоінт Chat Completions (POST /v1/chat/completions)

Надсилайте запити та отримуйте текстові відповіді через стандартний чат-інтерфейс. Це основа нашого API без цензури.

Ідентифікатор моделі uncensored. Він ефективно обробляє контекстні вікна на 100,000 токенів.

Кінцева точка для отримання списку моделей (GET /v1/models)

Перевірте з’єднання, перевіривши доступні моделі. Цей ендпоінт повертає єдину uncensored LLM, яку ми розміщуємо.

Використовуйте це для швидких перевірок працездатності перед надсиланням важких завантажень.

Потокові відповіді та використання токенів

Отримуйте дані в реальному часі через Server-Sent Events (SSE). Деталі використання токенів відображаються у фінальному чанку.

Чудово підходить для інтерфейсів, яким потрібна миттєва зворотна зв’язок без очікування повного завершення.

Function Calling та режим JSON

Структуруйте вивід точно за допомогою response_format: json_object. Визначення інструментів працюють точно так само, як у специфікації OpenAI.

Встановити tool_choice щоб примусово забезпечити конкретні поведінки. Ідеально підходить для автоматизованих робочих процесів.

Ліміти частоти та обмеження токенів

Примусові суворі ліміти для забезпечення стабільності. Кожен ключ дозволяє 300 запитів за хвилину та 8 одночасних з'єднань.

Максимальний вихід становить 16,000 токенів. Помилки безкоштовні. Контекст становить 100k токенів загалом.

cURL

Copycurl https://api.openaicompatibleapis.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "what is the current system time"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaicompatibleapis.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaicompatibleapis.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Потокова передача

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)