Jak používat LLM bez omezení s klíčem API Claude

Proč vyměnit koncový bod klíče API Claude?

Změna endpointu odstraňuje omezení obsahu, která omezují kreativní svobodu nebo technickou nuanci. Modely Claude často odmítají diskutovat o adult tématech, kontroverzních historických událostech nebo specifických lékařských detailech, i když jsou tato témata zákonná. Přesměrováním vašich API volání na poskytovatele bez cenzury si zachováte plný přístup k uvažovacím schopnostem modelu bez vrstvy bezpečnosti, která filtruje vaše vstupy. Tento přístup je ideální pro vývojáře, kteří potřebují surové výstupy pro zpracování dat, kreativní psaní nebo roleplay aplikace.

Přechod vyžaduje pouze změnu základní URL a API klíče. Váš stávající klíč Claude API nemusí fungovat přímo, pokud poskytovatel bez omezení používá jiný formát klíčů, ale vzor integrace zůstává identický. Získáte přístup k modelu, který klade důraz na generování odpovědí před moderací obsahu, což zajišťuje, že vaše aplikace obdrží celý rozsah znalostní báze modelu.

OpenAI-kompatibilní rozhraní

Rozhraní používá standardní endpointy kompatibilní s OpenAI pro zajištění široké podpory SDK. Naše API obsluhuje požadavky na https://api.mistralaikey.com/v1 pomocí stejné struktury jako majoritní poskytovatelé. To znamená, že můžete používat knihovny jako OpenAI Python SDK, LangChain nebo LlamaIndex bez přepisování základní logiky. Endpoint podporuje POST /v1/chat/completions pro generování textu a GET /v1/models pro výpis dostupných modelů.

Dodržováním těchto norem zajišťujeme, že váš kód zůstane přenositelný. Můžete přepínat mezi různými modely nebo poskytovateli změnou jediného konfiguračního proměnného. Tato flexibilita je klíčová pro testování různých uncensored modelů nebo škálování vaší aplikace bez hlubokého refaktorování.

Konfigurace vašeho SDK pro odpovědi bez omezení

Konfigurace vašeho SDK zahrnuje aktualizaci základní URL a API klíče ve vašich proměnných prostředí. Pro Python SDK OpenAI nastavíte base_url na náš endpoint a api_key na váš uncensored klíč. Tato jednoduchá změna přesměruje všechny žádosti o dokončení chatu na naše servery. ID modelu je nastaveno na uncensored, což spouští open-weight model laděný pro neomezené odpovědi.

Zde je, jak inicializujete klienta v Pythonu:

Tato konfigurace zajišťuje, že každý požadavek je správně směrován. Připojení můžete ověřit odesláním jednoduchého testovacího promptu. Pokud získáte odpověď bez filtrů obsahu, je vaše konfigurace úspěšná. Tato metoda funguje pro jakéhokoli klienta kompatibilního s OpenAI, což usnadňuje integraci do existujících projektů, jako je SillyTavern nebo Aider.

Zpracování nastavení teploty a top_p

Úpravou teploty a top_p můžete ovládat kreativitu a náhodnost výstupu. Vyšší teplota zvyšuje rozmanitost odpovědí, což je užitečné pro kreativní psaní nebo brainstorming. Nižší teploty produkují více deterministické a zaměřené odpovědi, ideální pro programování nebo faktické dotazy. Model bez omezení podporuje všechny standardní parametry, včetně top_p, stop, seed, a penalizace.

Naše API umožňuje kontextové okno o velikosti 100,000 tokenů, což vám poskytuje dostatek místa pro dlouhé konverzace nebo analýzu dokumentů. Maximální výstup na požadavek je 16,000 tokenů, což je dostatečné pro většinu případů použití. Pokud nespecifikujete max_tokens, výchozí hodnota je 2 048 tokenů. Tato flexibilita zajišťuje, že můžete doladit chování modelu tak, aby odpovídalo potřebám vaší konkrétní aplikace, aniž byste ztratili bezcenzurní povahu odpovědí.

Sledování využití tokenů v režimu bez omezení

Sledování využití tokenů je jednoduché díky transparentnímu ceníku. Platíte $0,15 za 1 milion vstupních tokenů a $0,50 za 1 milion výstupních tokenů. Toto cenění vychází ze skutečného využití, bez skrytých poplatků nebo předplatného. Chyby a odmítnutí jsou zdarma, takže platíte pouze za úspěšné odpovědi. Tato struktura je nákladově efektivní pro aplikace s vysokým objemem, kde by filtrování obsahu jinak vyvolávalo zbytečné poplatky.

Využití můžete sledovat prostřednictvím ovládacího panelu nebo zkoumáním hlaviček odpovědi. Každá odpověď obsahuje počty tokenů, což vám umožňuje přesně vypočítat náklady. Předplacený kredit je účtován na základě skutečného využití tokenů a nevyprší. To znamená, že můžete doplnit kredit pomocí kryptoměn a využívat kredity v průběhu času bez obav z měsíčních obnovovacích poplatků. Pro malé projekty je k dispozici zkoušební kredit $0.50 pro nové účty, platný po dobu 7 dní.

Volání funkcí s uncensored modely

Volání funkcí umožňuje modelu generovat strukturovaná data pro vaše aplikace. Naše API podporuje definice nástrojů, což umožňuje modelu výstupovat JSON, který odpovídá vašemu schématu. Tato funkce je zásadní pro tvorbu agentů, kteří interagují s externími systémy nebo databázemi. uncensored model zvládá volání funkcí stejně dobře jako standardní modely, což zajišťuje, že vaše logika zůstane nedotčena.

Při volání funkcí specifikujte nástroje v těle požadavku. Model vrátí odpověď s příslušnými voláními nástrojů, pokud bude potřeba. Tato funkce je k dispozici spolu s prouděním (streaming) a režimem JSON, což poskytuje komplexní sadu nástrojů pro vývojáře. Tuto funkci můžete integrovat do svého pracovního postupu pro automatizaci úkolů, extrakci dat nebo ovládání hardwarových zařízení na základě vstupů v přirozeném jazyce.

Běžné pasti integrace

Mezi běžná úskalí patří nesprávné základní URL a chybějící API klíče. Ujistěte se, že vaše základní URL končí /v1 aby odpovídalo struktuře endpointu. Také ověřte, že váš API klíč je správně formátovaný a aktivní. Dalším častým problémem je předpoklad, že model bez omezení podporuje všechny funkce prémiových modelů, jako je generování obrázků nebo vložení (embeddings). Naše API se zaměřuje na generování textu, takže si ověřte dostupnost konkrétních funkcí v dokumentaci.

Limity rychlosti jsou nastaveny na 300 požadavků za minutu a 8 souběžných požadavků na klíč. Pokud tyto limity překročíte, můžete obdržet chybu 429. Aby se tomu předešlo, implementujte v kódu klienta exponenciální backoff. Navíc si pamatujte, že zkušební kredit vyprší po 7 dnech, takže si plánování testování přizpůsobte. Tyto limity zajišťují férové používání při zachování vysokého výkonu pro všechny uživatele.

Přepnutí zpět na standardní modely

Přepnutí zpět na standardní modely je tak jednoduché jako změna základní URL a ID modelu. Pokud potřebujete porovnat výstupy nebo použít model s konkrétními funkcemi, můžete vrátit konfiguraci. Tato flexibilita umožňuje používat uncensored model pro kreativní úkoly a standardní model pro funkce připravené pro produkci. Rozhraní kompatibilní s OpenAI činí toto přepnutí hladkým, nevyžaduje žádné změny kódu kromě konfiguračních proměnných.

Můžete také spouštět oba modely paralelně pro A/B testování. Tento přístup vám pomáhá vyhodnotit kvalitu necenzurovaných odpovědí oproti standardním. Udržováním modulární architektury můžete snadno přepínat mezi různými poskytovateli nebo modely. Tato strategie zajišťuje, že vaše aplikace zůstane robustní a přizpůsobitelná měnícím se požadavkům nebo aktualizacím modelů.