Hướng dẫn bắt đầu nhanh API Tương thích OpenAI

Thiết lập Base URL và Xác thực

Bắt đầu bằng cách trỏ client của bạn đến điểm cuối chuyên dụng của chúng tôi. Chúng tôi sử dụng các tiêu đề tiêu chuẩn nên logic hiện có của bạn sẽ hoạt động ngay lập tức.

• Base URL: https://api.openaicompatibleapis.com/v1
• Xác thực: Bearer token qua Authorization header

Tạo một khóa trên bảng điều khiển. Không cần số điện thoại.

Endpoint Hoàn thành Trò chuyện (POST /v1/chat/completions)

Gửi các prompt và nhận phản hồi văn bản qua giao diện chat tiêu chuẩn. Đây là cốt lõi của API không kiểm duyệt của chúng tôi.

ID mô hình là uncensored. Nó xử lý hiệu quả các cửa sổ ngữ cảnh 100.000 token.

Điểm cuối Liệt kê Mô hình (GET /v1/models)

Xác minh kết nối bằng cách kiểm tra các mô hình có sẵn. Điểm cuối này trả về LLM không kiểm duyệt đơn lẻ mà chúng tôi lưu trữ.

Sử dụng điều này cho các kiểm tra sức khỏe nhanh trước khi gửi các tải trọng nặng.

Phản hồi luồng và sử dụng token

Nhận dữ liệu theo thời gian thực qua Server-Sent Events (SSE). Chi tiết sử dụng token xuất hiện trong chunk cuối cùng.

Rất phù hợp cho các giao diện người dùng cần phản hồi tức thì mà không cần chờ đợi hoàn tất đầy đủ.

Function Calling và chế độ JSON

Cấu trúc các đầu ra của bạn một cách chính xác bằng cách sử dụng response_format: json_object. Định nghĩa công cụ hoạt động chính xác như đặc tả OpenAI.

Đặt tool_choice để bắt buộc các hành vi cụ thể. Lý tưởng cho các quy trình tự động.

Giới hạn tốc độ và Ràng buộc token

Bắt buộc các giới hạn nghiêm ngặt để đảm bảo ổn định. Mỗi khóa cho phép 300 yêu cầu mỗi phút và 8 kết nối đồng thời.

Đầu ra tối đa là 16.000 token. Lỗi miễn phí. Ngữ cảnh là 100k token tổng cộng.

cURL

Copycurl https://api.openaicompatibleapis.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "what is the current system time"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaicompatibleapis.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaicompatibleapis.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Phát trực tiếp

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)