Integrasikan API LLM Tanpa Sensor

Pengesahan dan penetapan url asas

Mula-mula, gantikan URL asas OpenAI piawai dengan endpoint kami dan sediakan kunci API unik anda. Anda menerima kunci ini serta-merta selepas mendaftar melalui Google atau e-mel, dan ia kekal sebagai satu-satunya kelayakan untuk semua permintaan. API kami menerima header piawai, jadi anda boleh mengemaskini kod sedia ada tanpa menulis semula logik pengesahan.

Gunakan Authorization header dengan Bearer skema untuk menghantar kunci anda. Kaedah ini berfungsi dengan mana-mana perpustakaan yang menyokong hujung sambungan serasi OpenAI, memastikan anda boleh menguji sambungan sebelum berkomitmen untuk penggunaan.

• URL Asas: https://api.mistralaikey.com/v1
• Header: Authorization: Bearer YOUR_API_KEY

Menghantar penyiapan sembang pertama anda

Hantar permintaan POST ke /v1/chat/completions dengan prompt anda dan pengenal pasti model uncensored. Hujung sambungan ini memproses input teks dan mengembalikan respons teks yang dijana, mematuhi piawaian OpenAI dengan ketat. Anda tidak perlu mengkonfigurasi parameter pengekodan semula atau penjanaan imej, kerana API ini menumpukan semata-mata pada penyelesaian perbualan.

Pastikan anda menetapkan model field to uncensored untuk mengakses model bahasa besar tanpa sensor. Sistem memproses input anda dan mengembalikan penyelesaian, membolehkan anda mengesahkan bahawa kunci anda berfungsi dan model menjawab dengan betul kepada pertanyaan anda.

Copycurl https://api.mistralaikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Summit the code for the login function"}]
  }'

Membolehkan penstriman dan alat

Aktifkan penstriman dengan menetapkan stream parameter kepada true, yang mengembalikan kemas kini token demi token melalui Acara Dikirim Pelayan (SSE). Pendekatan ini mengurangkan latensi yang dirasakan dan membolehkan anda memaparkan hasil separa sejajar dengan penjanaan. Anda juga boleh mengintegrasikan panggilan fungsi dengan menentukan alat dalam permintaan anda, membolehkan model melaksanakan tindakan khusus atau mendapatkan data secara dinamik.

Penstriman memberikan maklum balas masa nyata, yang penting untuk aplikasi interaktif. Bahagian terakhir aliran termasuk statistik penggunaan token, membantu anda menjejak kos dengan tepat. Definisi alat mengikut format piawai OpenAI, menjadikan integrasi mudah untuk pembangun yang biasa dengan pemanggilan fungsi.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Menangani respons mod JSON

Paksa output terstruktur dengan menetapkan response_format ke {"type": "json_object"}. Ini memastikan model mengembalikan JSON, yang memudahkan penguraian dalam kod aplikasi anda. Anda boleh menggabungkan ini dengan definisi alat atau arahan prompt ketat untuk mengekalkan integriti data.

Mod JSON penting untuk program yang perlu mengkonsumsikan data terstruktur dengan boleh dipercayai. Dengan memaksakan format ini, anda mengelakkan ralat penguraian dan memastikan respons yang konsisten. Ciri ini berfungsi bersama parameter lain seperti temperature dan top_p, membolehkan anda menyeimbangkan kreativiti dengan struktur.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralaikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Memahami had dan penggunaan token

Model ini menyokong tetingkap konteks sebanyak 100,000 token, yang merangkumi kedua-dua prompt dan penyelesaian. Had yang murah hati ini membolehkan anda memproses dokumen besar atau mengekalkan sejarah perbualan panjang tanpa pemotongan. Walau bagaimanapun, output maksimum setiap permintaan dihadkan kepada 16,000 token, atau 2,048 token jika anda tidak menentukan max_tokens.

Pantau penggunaan anda melalui kiraan token yang dipulangkan dalam respons. Setiap permintaan menggunakan token input dan output, yang dibilkan pada $0.15 per juta token input dan $0.50 per juta token output. Ralat dan penolakan tidak dikenakan caj, memastikan anda hanya membayar untuk penyelesaian berjaya.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralaikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Had, ralat, dan kebolehpercayaan

Anda terhad kepada 300 permintaan setiap minit dan 8 permintaan serentak setiap kunci. Jika anda melebihi had ini, anda akan menerima ralat 429 Too Many Requests. Kegagalan pengesahan akan memulangkan status 401 Unauthorized, manakala kredit yang tidak mencukupi akan mencetuskan respons 402 Payment Required.

Had ini memastikan prestasi stabil untuk semua pengguna. Jika anda menghadapi ralat 401, sahkan kunci API anda dan pastikan ia tidak telah diganti. Ralat 402 menunjukkan bahawa kredit pra-dibayar anda telah habis, dan anda perlu menambah nilai melalui kripto. Badan permintaan dibatasi pada 8 MB, jadi muatan besar harus dimampatkan atau dibahagikan dengan sesuai.