Integrálja a Cenzúratlan LLM API-t

Hitelesítés és base URL beállítás

Kezdje azzal, hogy a standard OpenAI bázis URL-címet cseréli ki végpontunkra, és megadja egyedi API-kulcsát. Ezt a kulcsot azonnal megkapja Google-fiókkal vagy e-mail címmel történő regisztráció után, és ez marad az egyetlen hitelesítő adat az összes kéréshez. API-unk standard fejléceket fogad el, így meglévő kódbázisát átállíthatja anélkül, hogy át kellene írnia a hitelesítési logikát.

Használja a Authorization fej a Bearer sémát a kulcs továbbításához. Ez a módszer bármely olyan könyvtárral működik, amely támogatja az OpenAI-kompatibilis végpontokat, így tesztelheti a kapcsolatot a használatra való köteleződés előtt.

• Base URL: https://api.mistralaikey.com/v1
• Fejléc: Authorization: Bearer YOUR_API_KEY

Az első chat befejezés küldése

Küldj egy POST kérést a /v1/chat/completions a prompttal és a modell azonosítójával uncensored. Ez a végpont szövegbemenetet fogad, és generált szöveges választ ad vissza, szigorúan az OpenAI szabványok szerint. Nem kell beágyazási vagy képgenerálási paramétereket konfigurálnia, mivel ez az API kizárólag a chat kiegészítésekre fókuszál.

Győződjön meg róla, hogy beállítja a model field to uncensored uncensored nagy nyelvi modellhez. A rendszer feldolgozza a bemenetét, és egy completion-t ad vissza, lehetővé téve, hogy ellenőrizze, hogy a kulcsa működik-e, és a modell helyesen reagál-e a lekérdezéseire.

Copycurl https://api.mistralaikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Summit the code for the login function"}]
  }'

A streamelés és az eszközök engedélyezése

A streamelés engedélyezéséhez állítsa a stream paramétert állítsa true-ra, amely tokenenkénti frissítéseket ad vissza Server-Sent Events (SSE) formátumban. Ez a megközelítés csökkenti az észlelt késést, és lehetővé teszi a részleges eredmények megjelenítését generálás közben. Integrálhatja a funkcióhívást is azáltal, hogy eszközöket definiál a kérésben, lehetővé téve a modell számára specifikus műveletek végrehajtását vagy adatok dinamikus lekérdezését.

A streamelés valós idejű visszajelzést biztosít, ami kritikus az interaktív alkalmazások számára. A stream utolsó darabja token-használati statisztikákat tartalmaz, segítve a költségek pontos nyomon követését. Az eszközdefiníciók a szabványos OpenAI formátumot követik, így az integráció egyszerű a függvényhívással ismerős fejlesztők számára.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

JSON mód válaszok kezelése

Strukturált kimenet kényszerítése a response_format a {"type": "json_object"}. Ez biztosítja, hogy a modell érvényes JSON-t adjon vissza, ami leegyszerűsíti a feldolgozást az alkalmazáskódban. Kombinálhatja ezt eszközmeghatározásokkal vagy szigorú prompt utasításokkal az adatintegritás megőrzése érdekében.

A JSON elengedhetetlen azokhoz a programokhoz, amelyeknek strukturált adatokat kell megbízhatóan feldolgozniuk. Ennek a formátumnak az érvényesítésével elkerüli a parser hibákat és biztosítja a konzisztens válaszokat. Ez a funkció más paraméterekkel együtt működik, mint például temperature és top_p, lehetővé téve a kreativitás és a struktúra egyensúlyát.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralaikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Tokenkorlátok és felhasználás megértése

A modell 100 000 tokenes kontextusablakot támogat, amely magában foglalja a promptot és a completion-t. Ez a bőkezű határ lehetővé teszi nagy dokumentumok feldolgozását vagy hosszú beszélgetési előzmények fenntartását tömörítés nélkül. Azonban a kimenet kérésenként maximum 16 000 tokenre van korlátozva, vagy 2 048 tokenre, ha nem adja meg max_tokens.

Kövesse nyomon a felhasználást a válaszban visszaadott tokenmennyiségek alapján. Minden kérés bemeneti és kimeneti tokeneket fogyaszt, amelyeket millió bemeneti tokenenként $0.15-re és millió kimeneti tokenenként $0.50-ra számláznak. A hibák és az elutasítások nem vonnak le díjat, így biztosított, hogy csak a sikeres befejezésekért fizessen.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralaikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Korlátok, hibák és megbízhatóság

300 kérelmet per perc és 8 párhuzamos kérelmet engedélyezünk kulcsonként. Ha túlléped ezeket a határértékeket, 429 Too Many Requests hibát kapsz. A hitelesítési hibák 401 Unauthorized státuszkódot, a nem elegendő hitel pedig 402 Payment Required választ eredményez.

Ezek a korlátok stabil teljesítményt biztosítanak minden felhasználó számára. Ha 401-es hibát kapsz, ellenőrizd az API-kulcsot, és győződj meg róla, hogy nem váltották fel. A 402-es hiba azt jelzi, hogy a előre fizetett kredited elfogyott, és kriptón keresztül kell feltöltened. A kéréstörzsek 8 MB-ban vannak korlátozva, így a nagy adatcsomagokat tömöríteni vagy megfelelően fel kell osztani.