Uncensored LLM API'sini entegre edin

Kimlik doğrulama ve base URL kurulumu

Standart OpenAI temel URL'sini uç noktamızla değiştirerek ve benzersiz API anahtarınızı sağlayarak başlayın. Bu anahtarı Google veya e-posta ile kaydolduktan hemen sonra alırsınız ve tüm istekler için tek kimlik bilgisi olarak kalır. API'miz standart başlıkları kabul eder, bu nedenle kimlik doğrulama mantığını yeniden yazmadan mevcut kod tabanınızı geçirebilirsiniz.

Şu Authorization header Bearer hesabınızı doğrulamak için bir şema.

• Temel URL: https://api.mistralaikey.com/v1
• Başlık: Authorization: Bearer YOUR_API_KEY

İlk sohbet tamamlamanızı gönderme

Şuraya bir POST isteği gönderin /v1/chat/completions isteminiz ve model tanımlayıcınız uncensored. Bu uç nokta metin girdisi kabul eder ve oluşturulan bir metin yanıtı döndürür, OpenAI standartlarına sıkı sıkıya bağlı kalır. Bu API yalnızca sohbet tamamlamalarına odaklandığı için gömme (embedding) veya görüntü oluşturma parametrelerini yapılandırmanıza gerek yoktur.

Şunu ayarlayın model field için uncensored uncensored büyük dil modeline erişim. Sistem girdinizi işler ve bir tamamlama döndürür, böylece anahtarınızın çalıştığını ve modelin sorgularınıza doğru şekilde yanıt verdiğini doğrulayabilirsiniz.

Copycurl https://api.mistralaikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Summit the code for the login function"}]
  }'

Akışın ve araçların etkinleştirilmesi

Akışı etkinleştirmek için stream parametresini true olarak ayarlayın, bu, Sunucu Tarafından Gönderilen Olaylar (SSE) aracılığıyla belirteç belirteç güncellemeleri döndürür. Bu yaklaşım algılanan gecikmeyi azaltır ve kısmi sonuçları oluşturulurken görüntülemenize olanak tanır. Ayrıca isteğinizde araçlar tanımlayarak işlev çağırma entegrasyonu yapabilir, modelin belirli eylemleri gerçekleştirmesine veya verileri dinamik olarak almasına olanak tanıyabilirsiniz.

Akış, etkileşimli uygulamalar için kritik olan gerçek zamanlı geri bildirim sağlar. Akışın son parçası, maliyetleri doğru bir şekilde izlemenize yardımcı olan belirteç kullanım istatistiklerini içerir. Araç tanımları, fonksiyon çağırma ile aşina geliştiriciler için entegrasyonu kolaylaştıran standart OpenAI formatını izler.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

JSON modu yanıtlarını işleme

response_format'ı ayarlayarak yapılandırılmış çıktı zorlayın response_format için {"type": "json_object"}. Bu, modelin uygulama kodunuzda ayrıştırmayı basitleştiren geçerli JSON döndürmesini sağlar. Veri bütünlüğünü korumak için bunu araç tanımları veya sıkı istem talimatlarıyla birleştirebilirsiniz.

JSON modu, yapılandırılmış verileri güvenilir bir şekilde tüketmesi gereken programlar için gereklidir. Bu formatı zorlayarak ayrıştırma hatalarından kaçınır ve tutarlı yanıtlar sağlarsınız. Bu özellik diğer parametrelerle birlikte çalışır temperature ve top_p, yaratıcılığınızı yapıyla dengelemenizi sağlar.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralaikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Token limitlerini ve kullanımını anlama

Model, hem istem hem de tamamlamayı içeren 100.000 token'lık bir bağlam penceresi destekler. Bu cömert limit, büyük belgeleri işlemenize veya uzun konuşma geçmişlerini kesme olmadan sürdürmenize olanak tanır. Ancak, istek başına maksimum çıkış 16.000 token ile sınırlıdır, veya belirtmezseniz 2.048 token max_tokens.

Yanıtlarda döndürülen token sayıları aracılığıyla kullanımınızı takip edin. Her istek girdi ve çıktı tokenları tüketir, milyon başına girdi tokenı $0.15 ve milyon başına çıktı tokenı $0.50'den ücretlendirilir. Hatalar ve reddedilenler ücretlendirilmez, bu nedenle yalnızca başarılı tamamlamalar için ödeme yaparsınız.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralaikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Limitler, hatalar ve güvenilirlik

Dakikada 300 istek ve anahtar başına 8 eşzamanlı istekle sınırlısınız. Bu limitleri aşmanız durumunda size 429 Too Many Requests hatı döndürülür. Kimlik doğrulama hataları 401 Unauthorized durum kodunu, yetersiz kredi ise 402 Payment Required yanıtını tetikler.

Bu limitler tüm kullanıcılar için stabil performans sağlar. 401 hatası alırsanız API anahtarınızı doğrulayın ve yerini alınıp alınmadığını kontrol edin. 402 hatası, ön ödemeli kredinizin tükendiğini ve kripto ile bakiye yüklemeniz gerektiğini gösterir. İstek gövdeleri 8 MB ile sınırlıdır; bu nedenle büyük yükler uygun şekilde sıkıştırılmalı veya bölünmelidir.