Tích hợp API LLM Uncensored

Xác thực và thiết lập base URL

Bắt đầu bằng cách thay thế URL cơ sở OpenAI tiêu chuẩn bằng điểm cuối của chúng tôi và cung cấp khóa API độc nhất của bạn. Bạn nhận được khóa này ngay sau khi đăng ký qua Google hoặc email và nó vẫn là thông tin xác thực duy nhất cho tất cả các yêu cầu. API của chúng tôi chấp nhận các tiêu đề tiêu chuẩn nên bạn có thể di chuyển cơ sở mã hiện có mà không cần viết lại logic xác thực.

Sử dụng Authorization header với Bearer scheme để truyền khóa của bạn. Phương pháp này hoạt động với bất kỳ thư viện nào hỗ trợ các điểm cuối tương thích OpenAI, đảm bảo bạn có thể kiểm tra kết nối trước khi cam kết sử dụng.

• Base URL: https://api.mistralaikey.com/v1
• Tiêu đề: Authorization: Bearer YOUR_API_KEY

Gửi yêu cầu hoàn thành trò chuyện đầu tiên của bạn

Gửi yêu cầu POST đến /v1/chat/completions với lời nhắc và định danh mô hình uncensored. Điểm cuối này xử lý đầu vào văn bản và trả về một phản hồi văn bản được tạo, tuân thủ nghiêm ngặt các tiêu chuẩn của OpenAI. Bạn không cần cấu hình các tham số embedding hoặc tạo hình ảnh, vì API này tập trung hoàn toàn vào các phần hoàn thiện chat.

Đảm bảo bạn đặt model field để uncensored để truy cập mô hình ngôn ngữ lớn không kiểm duyệt. Hệ thống xử lý đầu vào của bạn và trả về một phần hoàn thành, cho phép bạn xác minh rằng khóa của bạn hoạt động và mô hình phản hồi chính xác với các truy vấn của bạn.

Copycurl https://api.mistralaikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Summit the code for the login function"}]
  }'

Bật streaming và công cụ

Bật chế độ streaming bằng cách đặt stream tham số thành true, trả về các cập nhật token theo token thông qua Sự kiện gửi bởi máy chủ (SSE). Cách tiếp cận này giảm độ trễ cảm nhận và cho phép bạn hiển thị kết quả một phần khi chúng được tạo. Bạn cũng có thể tích hợp gọi hàm bằng cách xác định các công cụ trong yêu cầu của mình, cho phép mô hình thực hiện các hành động cụ thể hoặc truy xuất dữ liệu động.

Streaming cung cấp phản hồi thời gian thực, điều rất quan trọng đối với các ứng dụng tương tác. Chunk cuối cùng của luồng bao gồm thống kê sử dụng token, giúp bạn theo dõi chi phí một cách chính xác. Định nghĩa công cụ tuân theo định dạng chuẩn của OpenAI, giúp tích hợp dễ dàng cho các nhà phát triển quen thuộc với việc gọi hàm.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Xử lý phản hồi chế độ JSON

Buộc đầu ra có cấu trúc bằng cách đặt response_format để {"type": "json_object"}. Điều này đảm bảo mô hình trả về JSON, điều này đơn giản hóa việc phân tích cú pháp trong mã ứng dụng của bạn. Bạn có thể kết hợp điều này với các định nghĩa công cụ hoặc hướng dẫn lời nhắc nghiêm ngặt để duy trì tính toàn vẹn dữ liệu.

Chế độ JSON là thiết yếu cho các chương trình cần tiêu thụ dữ liệu có cấu trúc một cách đáng tin cậy. Bằng cách áp đặt định dạng này, bạn tránh được lỗi phân tích cú pháp và đảm bảo các phản hồi nhất quán. Tính năng này hoạt động cùng với các tham số khác như temperature và top_p, cho phép bạn cân bằng giữa sáng tạo và cấu trúc.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralaikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Hiểu giới hạn token và việc sử dụng

Mô hình hỗ trợ cửa sổ ngữ cảnh 100.000 token, bao gồm cả prompt và completion. Giới hạn rộng rãi này cho phép bạn xử lý các tài liệu lớn hoặc duy trì lịch sử hội thoại dài mà không bị cắt ngắn. Tuy nhiên, giới hạn tối đa cho mỗi yêu cầu là 16.000 token, hoặc 2.048 token nếu bạn không chỉ định max_tokens.

Theo dõi mức sử dụng thông qua các số lượng token được trả về trong phản hồi. Mỗi yêu cầu tiêu thụ token đầu vào và đầu ra, được tính phí ở mức $0.15 cho mỗi triệu token đầu vào và $0.50 cho mỗi triệu token đầu ra. Lỗi và từ chối không phát sinh chi phí, đảm bảo bạn chỉ trả tiền cho các kết thúc thành công.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralaikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Giới hạn, lỗi và độ tin cậy

Bạn bị giới hạn 300 yêu cầu mỗi phút và 8 yêu cầu đồng thời mỗi khóa. Nếu vượt quá giới hạn này, bạn sẽ nhận được lỗi 429 Too Many Requests. Lỗi xác thực trả về mã 401 Unauthorized, trong khi thiếu tín dụng sẽ kích hoạt phản hồi 402 Payment Required.

Các giới hạn này đảm bảo hiệu suất ổn định cho tất cả người dùng. Nếu gặp lỗi 401, hãy xác minh khóa API của bạn và đảm bảo nó chưa được thay thế. Lỗi 402 cho biết tín dụng trả trước của bạn đã hết và bạn cần nạp tiền qua tiền điện tử. Kích thước thân yêu cầu được giới hạn ở mức 8 MB, vì vậy các tải trọng lớn nên được nén hoặc chia nhỏ thích hợp.