Integrasikan API LLM Tanpa Sensor

Autentikasi dan penyiapan URL dasar

Mulailah dengan mengganti URL dasar OpenAI standar dengan endpoint kami dan menyediakan kunci API unik Anda. Anda menerima kunci ini segera setelah mendaftar melalui Google atau email, dan itu tetap menjadi satu-satunya kredensial untuk semua permintaan. API kami menerima header standar, sehingga Anda dapat memigrasikan basis kode yang ada tanpa menulis ulang logika autentikasi.

Gunakan Authorization header dengan Bearer skema untuk meneruskan kunci Anda. Metode ini berfungsi dengan pustaka apa pun yang mendukung endpoint kompatibel OpenAI, memastikan Anda dapat menguji konektivitas sebelum berkomitmen untuk penggunaan.

• URL Dasar: https://api.mistralaikey.com/v1
• Header: Authorization: Bearer YOUR_API_KEY

Mengirimkan penyelesaian chat pertama Anda

Kirim permintaan POST ke /v1/chat/completions dengan prompt dan pengidentifikasi model uncensored. Endpoint ini memproses input teks dan mengembalikan respons teks yang dihasilkan, mematuhi standar OpenAI secara ketat. Anda tidak perlu mengonfigurasi parameter embedding atau generasi gambar, karena API ini berfokus semata-mata pada kelengkapan obrolan.

Pastikan Anda mengatur model field to uncensored untuk mengakses model bahasa besar uncensored. Sistem memproses input Anda dan mengembalikan penyelesaian, memungkinkan Anda memverifikasi bahwa kunci Anda berfungsi dan model merespons dengan benar terhadap kueri Anda.

Copycurl https://api.mistralaikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Summit the code for the login function"}]
  }'

Mengaktifkan streaming dan alat

Aktifkan streaming dengan mengatur stream parameter menjadi true, yang mengembalikan pembaruan token demi token melalui Server-Sent Events (SSE). Pendekatan ini mengurangi latensi yang dirasakan dan memungkinkan Anda menampilkan hasil parsial saat dihasilkan. Anda juga dapat mengintegrasikan pemanggilan fungsi dengan menentukan alat dalam permintaan Anda, memungkinkan model mengeksekusi tindakan tertentu atau mengambil data secara dinamis.

Streaming memberikan umpan balik real-time, yang sangat penting untuk aplikasi interaktif. Potongan terakhir dari stream mencakup statistik penggunaan token, membantu Anda melacak biaya secara akurat. Definisi alat mengikuti format standar OpenAI, membuat integrasi menjadi mudah bagi pengembang yang terbiasa dengan pemanggilan fungsi.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Menangani respons mode JSON

Paksa output terstruktur dengan mengatur response_format ke {"type": "json_object"}Ini memastikan model mengembalikan JSON, yang menyederhanakan parsing dalam kode aplikasi Anda. Anda dapat menggabungkannya dengan definisi alat atau instruksi prompt ketat untuk menjaga integritas data.

Mode JSON penting untuk program yang perlu mengonsumsi data terstruktur secara andal. Dengan memaksakan format ini, Anda menghindari kesalahan parsing dan memastikan respons yang konsisten. Fitur ini bekerja bersama parameter lain seperti temperature dan top_p, memungkinkan Anda menyeimbangkan kreativitas dengan struktur.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralaikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Memahami batas dan penggunaan token

Model ini mendukung jendela konteks sebesar 100.000 token, yang mencakup prompt dan completion. Batasan yang luas ini memungkinkan Anda memproses dokumen besar atau mempertahankan riwayat percakapan panjang tanpa pemotongan. Namun, output maksimum per permintaan dibatasi pada 16.000 token, atau 2.048 token jika Anda tidak menentukan max_tokens.

Lacak penggunaan Anda melalui jumlah token yang dikembalikan dalam respons. Setiap permintaan mengonsumsi token input dan output, yang dibebankan sebesar $0.15 per juta token input dan $0.50 per juta token output. Kesalahan dan penolakan tidak menimbulkan biaya, memastikan Anda hanya membayar untuk penyelesaian yang berhasil.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralaikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Batas, error, dan keandalan

Anda dibatasi hingga 300 permintaan per menit dan 8 permintaan simultan per kunci. Jika Anda melebihi batas ini, Anda akan menerima error 429 Too Many Requests. Kegagalan autentikasi mengembalikan status 401 Unauthorized, sedangkan kredit yang tidak cukup memicu respons 402 Payment Required.

Batas-batas ini memastikan performa stabil bagi semua pengguna. Jika Anda mengalami kesalahan 401, verifikasi kunci API Anda dan pastikan kunci tersebut belum diganti. Kesalahan 402 menunjukkan bahwa kredit prabayar Anda telah habis, dan Anda perlu mengisi ulang melalui kripto. Badan permintaan dibatasi hingga 8 MB, sehingga payload besar harus dikompresi atau dipisah secara tepat.