Integrujte API LLM Uncensored

Nastavení základní URL ověření

Začněte nahrazením standardní základní URL OpenAI naším endpointem a poskytnutím svého jedinečého API klíče. Tento klíč obdržíte ihned po registraci přes Google nebo e-mail a zůstává jediným prokazujícím oprávnění pro všechny požadavky. Naše API akceptuje standardní hlavičky, takže můžete migrovat svůj existující kód bez přepisování logiky autentizace.

Použijte Authorization hlavička s Bearer schéma pro předání vašeho klíče. Tato metoda funguje s jakoukoli knihovnou, která podporuje endpointy kompatibilní s OpenAI, což vám umožní otestovat připojení před zavázáním se k používání.

• Základní URL: https://api.mistralaikey.com/v1
• Hlavička: Authorization: Bearer YOUR_API_KEY

Odeslání vašeho prvního dokončení chatu

Odeslat požadavek POST na /v1/chat/completions vaším podnětem a identifikátorem modelu uncensored. Tento endpoint zpracovává textový vstup a vrací vygenerovanou textovou odpověď, striktně dodržuje standardy OpenAI. Nemusíte konfigurovat parametry pro vektory (embeddings) nebo generování obrázků, protože toto API se zaměřuje výhradně na dokončování chatu.

Ujistěte se, že nastavíte model pole na uncensored k přístupu k velkému jazykovému modelu bez omezení. Systém zpracovává váš vstup a vrací dokončení, což vám umožňuje ověřit, že váš klíč funguje a model správně odpovídá na vaše dotazy.

Copycurl https://api.mistralaikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Summit the code for the login function"}]
  }'

Povolování streamování a nástrojů

Povolte streamování nastavením stream parameter na true, což vrací aktualizace token po tokenu prostřednictvím Server-Sent Events (SSE). Tento přístup snižuje vnímanou latenci a umožňuje zobrazovat částečné výsledky, jak jsou generovány. Můžete také integrovat volání funkcí definováním nástrojů ve vašem požadavku, což umožní modelu vykonávat konkrétní akce nebo dynamicky získávat data.

Streaming poskytuje zpětnou vazbu v reálném čase, což je klíčové pro interaktivní aplikace. Poslední chunk streamu zahrnuje statistiky využití tokenů, což vám pomáhá přesně sledovat náklady. Definice nástrojů následují standardní formát OpenAI, což zjednodušuje integraci pro vývojáře obeznámené s voláním funkcí.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Zvládání odpovědí v režimu JSON

Vynucení strukturovaného výstupu nastavením response_format na {"type": "json_object"}. To zajišťuje, že model vrací platný JSON, což zjednodušuje parsování ve vašem aplikačním kódu. Tento režim můžete kombinovat s definicemi nástrojů nebo přísnými instrukcemi v promptu pro zachování integrity dat.

Režim JSON je zásadní pro programy, které potřebují spolehlivě zpracovávat strukturovaná data. Vynucením tohoto formátu se vyhnete chybám parsování a zajistíte konzistentní odpovědi. Tato funkce funguje spolu s dalšími parametry jako temperature a top_p, což vám umožňuje vyvážit kreativitu se strukturou.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralaikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Pochopení limitů a využití tokenů

Model podporuje kontextové okno o velikosti 100 000 tokenů, které zahrnuje jak prompt, tak dokončení. Tato štědrá hranice vám umožňuje zpracovávat velké dokumenty nebo udržovat dlouhé historie konverzací bez ořezu. Maximální výstup na požadavek je však omezen na 16 000 tokenů, nebo na 2 048 tokenů, pokud nezadáte max_tokens.

Sledujte své využití prostřednictvím počtů tokenů vrácených v odpovědi. Každý požadavek spotřebovává vstupní a výstupní tokeny, které se účtují $0.15 za milion vstupních tokenů a $0.50 za milion výstupních tokenů. Chyby a odmítnutí neznamenají poplatky, což zajišťuje, že platíte pouze za úspěšná dokončení.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralaikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Limity, chyby a spolehlivost

Jste omezeni na 300 požadavků za minutu a 8 souběžných požadavků na klíč. Pokud tyto limity překročíte, obdržíte chybu 429 Too Many Requests. Selhání autentizace vrací stav 401 Unauthorized, zatímco nedostatek kreditu vyvolá odpověď 402 Payment Required.

Tyto limity zajišťují stabilní výkon pro všechny uživatele. Pokud se setkáte s chybou 401, ověřte svůj API klíč a ujistěte se, že nebyl nahrazen. Chyba 402 znamená, že váš předplacený kredit je vyčerpán a potřebujete jej doplnit pomocí kryptoměn. Těla požadavků jsou omezena na 8 MB, takže velké payloady by měly být komprimovány nebo rozděleny přiměřeně.