Подключите API LLM Uncensored

Аутентификация и установка базового URL

Начните с замены стандартного базового URL OpenAI на наш конечный пункт и предоставления вашего уникального API-ключа. Вы получаете этот ключ сразу после регистрации через Google или email, и он остается единственным учетным данным для всех запросов. Наш API принимает стандартные заголовки, поэтому вы можете перенести существующую кодовую базу без переписывания логики аутентификации.

Используйте Authorization Заголовок со значением Bearer схему для передачи вашего ключа. Этот метод работает с любой библиотекой, поддерживающей OpenAI-совместимые конечные точки, что позволяет проверить подключение перед началом использования.

• Базовый URL: https://api.mistralaikey.com/v1
• Заголовок: Authorization: Bearer YOUR_API_KEY

Отправка вашего первого завершения чата

Отправьте POST-запрос на /v1/chat/completions с вашим промптом и идентификатором модели uncensored. Этот эндпоинт обрабатывает текстовый ввод и возвращает сгенерированный текстовый ответ, строго соблюдая стандарты OpenAI. Вам не нужно настраивать параметры эмбеддингов или генерации изображений, так как этот API сфокусирован исключительно на завершении чата.

Убедитесь, что вы устанавливаете model field для uncensored для доступа к uncensored большой языковой модели. Система обрабатывает ваш ввод и возвращает завершение, позволяя вам проверить, что ваш ключ работает и модель правильно отвечает на ваши запросы.

Copycurl https://api.mistralaikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Summit the code for the login function"}]
  }'

Включение потоковой передачи и инструментов

Включите потоковую передачу, установив stream параметр в true, что возвращает обновления токенов по одному через Server-Sent Events (SSE). Этот подход снижает воспринимаемую задержку и позволяет отображать частичные результаты по мере их генерации. Вы также можете интегрировать вызов функций, определив инструменты в запросе, что позволяет модели выполнять определённые действия или динамически получать данные.

Потоковая передача обеспечивает обратную связь в реальном времени, что критически важно для интерактивных приложений. Последний чанк потока включает статистику использования токенов, помогая точно отслеживать расходы. Определения инструментов следуют стандартному формату OpenAI, что упрощает интеграцию для разработчиков, знакомых с вызовом функций.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Обработка ответов в режиме JSON

Принудированный структурированный вывод путем установки response_format для {"type": "json_object"}. Это обеспечивает, что модель возвращает допустимый JSON, что упрощает парсинг в коде вашего приложения. Вы можете комбинировать это с определениями инструментов или строгими инструкциями в промпте для сохранения целостности данных.

Режим JSON необходим для программ, которым нужно надежно потреблять структурированные данные. Принуждая к этому формату, вы избегаете ошибок парсинга и обеспечиваете согласованные ответы. Эта функция работает вместе с другими параметрами, такими как temperature и top_p, позволяя вам балансировать между креативностью и структурой.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralaikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Понимание лимитов и использования токенов

Модель поддерживает контекстное окно объёмом 100 000 токенов, включающее как промпт, так и завершение. Эта щедрая граница позволяет обрабатывать большие документы или поддерживать длинные истории диалогов без усечения. Однако максимальный объём вывода на запрос ограничен 16 000 токенами, или 2 048 токенами, если вы не укажете max_tokens.

Отслеживайте использование через количество токенов, возвращаемых в ответе. Каждый запрос потребляет входные и выходные токены, которые оплачиваются по тарифу $0.15 за миллион входных токенов и $0.50 за миллион выходных токенов. Ошибки и отказы не влекут расходов, что гарантирует, что вы платите только за успешные завершения.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralaikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Лимиты, ошибки и надежность

Ваш лимит — 300 запросов в минуту и 8 одновременных запросов на ключ. При превышении этих лимитов вы получите ошибку 429 Too Many Requests. Ошибки аутентификации возвращают статус 401 Unauthorized, а недостаток средств — статус 402 Payment Required.

Эти лимиты обеспечивают стабильную производительность для всех пользователей. Если вы получите ошибку 401, проверьте API-ключ и убедитесь, что он не был заменен. Ошибка 402 указывает на то, что ваш предоплаченный кредит исчерпан, и вам нужно пополнить счет через криптовалюту. Тело запроса ограничено 8 МБ, поэтому большие полезные нагрузки следует сжимать или разбивать соответствующим образом.