Zintegruj interfejs API LLM Uncensored

Uwierzytelnianie i konfiguracja URL bazowego

Zacznij od zastąpienia standardowego adresu bazowego OpenAI naszym punktem końcowym i podania unikalnego klucza API. Otrzymujesz ten klucz natychmiast po rejestracji za pomocą Google lub e-maila, a pozostaje on jedynym poświadczeniem do wszystkich żądań. Nasze API akceptuje standardowe nagłówki, więc możesz przenieść istniejącą bazę kodu bez przepisania logiki uwierzytelniania.

Korzystaj z Authorization Nagłówek z Bearer schemat do przekazania klucza. Ta metoda działa z każdą biblioteką obsługującą endpointy kompatybilne z OpenAI, zapewniając, że możesz przetestować łączność przed zobowiązaniem się do użytku.

• URL bazowy: https://api.mistralaikey.com/v1
• Nagłówek: Authorization: Bearer YOUR_API_KEY

Wysyłanie twojego pierwszego chat completion

Wyślij żądanie POST do /v1/chat/completions z Twoim promptem i identyfikatorem modelu uncensored. Ten endpoint przetwarza wejście tekstowe i zwraca wygenerowaną odpowiedź tekstową, ściśle przestrzegając standardów OpenAI. Nie musisz konfigurować parametrów embeddingów ani generowania obrazów, ponieważ to API skupia się wyłącznie na uzupełnieniach czatu.

Upewnij się, że ustawisz model pole do uncensored do dostępu do nieograniczonego dużego modelu językowego. System przetwarza Twoje wejście i zwraca completion, pozwalając Ci zweryfikować, że Twój klucz działa i model poprawnie odpowiada na Twoje zapytania.

Copycurl https://api.mistralaikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Summit the code for the login function"}]
  }'

Włączanie strumieniowania i narzędzi

Włącz strumieniowanie, ustawiając stream ustaw na true, co zwraca aktualizacje token po tokenie za pośrednictwem zdarzeń wysłanych przez serwer (SSE). Podejście to zmniejsza postrzeganą latencję i pozwala wyświetlać częściowe wyniki w miarę ich generowania. Możesz również zintegrować wywoływanie funkcji, definiując narzędzia w żądaniu, co umożliwia modelowi wykonywanie konkretnych akcji lub dynamiczne pobieranie danych.

Strumieniowanie zapewnia informację zwrotną w czasie rzeczywistym, co jest kluczowe dla aplikacji interaktywnych. Ostatni fragment strumienia zawiera statystyki użycia tokenów, pomagając dokładnie śledzić koszty. Definicje narzędzi są zgodne ze standardowym formatem OpenAI, co ułatwia integrację programistom zaznajomionym z wywoływaniem funkcji.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Obsługa odpowiedzi w trybie JSON

Wymuś dane strukturalne, ustawiając response_format do {"type": "json_object"}. Zapewnia to, że model zwraca poprawny JSON, co upraszcza parsowanie w kodzie Twojej aplikacji. Możesz połączyć to z definicjami narzędzi lub ścisłymi instrukcjami promptu, aby zachować integralność danych.

Tryb JSON jest kluczowy dla programów, które muszą niezawodnie konsumować dane strukturalne. Wymuszając ten format, unikasz błędów parsowania i zapewniasz spójne odpowiedzi. Ta funkcja działa wraz z innymi parametrami jak temperature i top_p, pozwalając Ci zbalansować kreatywność ze strukturą.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralaikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Zrozumienie limitów i zużycia tokenów

Model obsługuje okno kontekstowe o rozmiarze 100 000 tokenów, obejmujące zarówno prompt, jak i uzupełnienie. Ten hojny limit pozwala na przetwarzanie dużych dokumentów lub utrzymywanie długich historii konwersacji bez przycinania. Jednak maksymalna liczba tokenów wyjściowych na żądanie jest ograniczona do 16 000 tokenów, lub 2 048 tokenów, jeśli nie określisz max_tokens.

Śledź swoje użycie poprzez liczby tokenów zwracane w odpowiedzi. Każde żądanie zużywa tokeny wejściowe i wyjściowe, rozliczane po $0.15 za milion tokenów wejściowych i $0.50 za milion tokenów wyjściowych. Błędy i odrzucenia nie generują opłat, zapewniając, że płacisz tylko za pomyślne ukończenia.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralaikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Limity, błędy i niezawodność

Przydzielenie wynosi 300 żądań na minutę i 8 żądań równoległych na klucz. Jeśli przekroczysz te limity, otrzymasz błąd 429 Too Many Requests. Niepowodzenia uwierzytelnienia zwracają status 401 Unauthorized, natomiast niewystarczające środki wywołują odpowiedź 402 Payment Required.

Te limity zapewniają stabilną wydajność dla wszystkich użytkowników. Jeśli napotkasz błąd 401, zweryfikuj swój klucz API i upewnij się, że nie został zastąpiony. Błąd 402 oznacza, że Twój kredyt zaliczkowy został wyczerpany i musisz dołaczyć środki poprzez kryptowaluty. Ciała żądań są ograniczone do 8 MB, więc duże ładunki powinny być kompresowane lub odpowiednio podzielone.