ผสาน Uncensored LLM API

Authentication and base URL setup

เริ่มต้นโดยการแทนที่ base URL ของ OpenAI มาตรฐานด้วย endpoint ของเราและระบุ API key เฉพาะของคุณ คุณได้รับ key นี้ทันทีหลังจากสมัครสมาชิกผ่าน Google หรืออีเมล และมันยังคงเป็นข้อมูลรับรองเพียงอย่างเดียวสำหรับการร้องขอทั้งหมด API ของเรารองรับ header มาตรฐาน ดังนั้นคุณสามารถย้ายโค้ดเบสที่มีอยู่ของคุณได้โดยไม่ต้องเขียนใหม่ตรรกะการตรวจสอบสิทธิ์

ใช้ Authorization header พร้อม Bearer scheme เพื่อส่งคีย์ของคุณ วิธีนี้ทำงานกับไลบรารีใดๆ ที่รองรับ endpoint ที่เข้ากันได้กับ OpenAI เพื่อให้คุณสามารถทดสอบการเชื่อมต่อก่อนตัดสินใจใช้งาน

• Base URL: https://api.mistralaikey.com/v1
• ส่วนหัว: Authorization: Bearer YOUR_API_KEY

การส่ง chat completion ครั้งแรกของคุณ

ส่งคำขอ POST ไปยัง /v1/chat/completions พร้อมพรอมต์ของคุณและรหัสระบุโมเดล uncensored. เอนด์พอยต์นี้ประมวลผลอินพุตข้อความและส่งคืนข้อความที่สร้างขึ้นมา โดยยึดตามมาตรฐาน OpenAI อย่างเคร่งครัด คุณไม่จำเป็นต้องกำหนดค่าพารามิเตอร์ embeddings หรือการสร้างรูปภาพ เนื่องจาก API นี้มุ่งเน้นเฉพาะการเติมข้อความแชท

ตรวจสอบว่าคุณตั้งค่า model field to uncensored เพื่อเข้าถึงโมเดลภาษาขนาดใหญ่แบบไม่มีเซนเซอร์ ระบบจะประมวลผลอินพุตของคุณและส่งผลการสร้างข้อความกลับมา เพื่อให้คุณสามารถตรวจสอบว่าคีย์ของคุณใช้งานได้และโมเดลตอบสนองต่อคำถามของคุณได้อย่างถูกต้อง

Copycurl https://api.mistralaikey.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Summit the code for the login function"}]
  }'

เปิดใช้งานการสตรีมและเครื่องมือ

เปิดใช้งานการสตรีมโดยการตั้งค่า stream ตั้งค่าเป็น true ซึ่งจะทำให้ส่งอัปเดตแบบทีละโทเค็นผ่าน Server-Sent Events (SSE) วิธีนี้ช่วยลดความล่าช้าที่ผู้ใช้รู้สึกได้ และอนุญาตให้คุณแสดงผลผลลัพธ์บางส่วนทันทีที่สร้างเสร็จ นอกจากนี้คุณยังสามารถผสานรวมการเรียกใช้ฟังก์ชัน (function calling) โดยกำหนดเครื่องมือ (tools) ในการร้องขอของคุณ เพื่อให้โมเดลสามารถดำเนินการเฉพาะหรือดึงข้อมูลแบบไดนามิกได้

การสตรีมให้ข้อมูลป้อนกลับแบบเรียลไทม์ ซึ่งสำคัญสำหรับแอปพลิเคชันแบบโต้ตอบ ส่วนสุดท้ายของสตรีมรวมถึงสถิติการใช้งานโทเค็น ซึ่งช่วยให้คุณติดตามต้นทุนได้อย่างแม่นยำ คำจำกัดเครื่องมือปฏิบัติตามรูปแบบมาตรฐานของ OpenAI ทำให้การผสานรวมเป็นเรื่องง่ายสำหรับนักพัฒนาที่คุ้นเคยกับการเรียกใช้ฟังก์ชัน

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Handling JSON mode responses

บังคับใช้เอาต์พุตที่มีโครงสร้างโดยตั้งค่า response_format เพื่อ {"type": "json_object"}สิ่งนี้ช่วยให้โมเดลส่งคืน JSON ซึ่งทำให้การแยกวิเคราะห์ในโค้ดแอปพลิเคชันของคุณง่ายขึ้น คุณสามารถรวมสิ่งนี้กับการกำหนดเครื่องมือหรือคำแนะนำแบบเข้มงวดเพื่อรักษาความสมบูรณ์ของข้อมูล

โหมด JSON มีความสำคัญสำหรับโปรแกรมที่ต้องการบริโภคข้อมูลที่มีโครงสร้างอย่างน่าเชื่อถือ โดยการบังคับใช้รูปแบบนี้ คุณจะหลีกเลี่ยงข้อผิดพลาดในการแยกวิเคราะห์และรับประกันผลลัพธ์ที่สม่ำเสมอ ฟีเจอร์นี้ทำงานร่วมกับพารามิเตอร์อื่นๆ เช่น temperature และ top_p, ทำให้คุณสามารถปรับสมดุลระหว่างความคิดสร้างสรรค์และโครงสร้าง

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.mistralaikey.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

การเข้าใจขีดจำกัดโทเค็นและการใช้งาน

โมเดลรองรับ context window ขนาด 100,000 tokens ซึ่งครอบคลุมทั้ง prompt และ completion ขอบเขตที่กว้างนี้ช่วยให้คุณประมวลผลเอกสารขนาดใหญ่หรือเก็บประวัติการสนทนาที่ยาวนานได้โดยไม่มีการตัดทอน อย่างไรก็ตาม ค่า output สูงสุดต่อการเรียกข้อมูลจะถูกจำกัดไว้ที่ 16,000 tokens หรือ 2,048 tokens หากไม่ได้ระบุ max_tokens.

ติดตามแนวโน้มการใช้งานของคุณผ่านจำนวน tokens ที่ส่งกลับใน response แต่ละคำขอใช้ input และ output tokens ซึ่งคิดค่าบริการที่ $0.15 ต่อล้าน input tokens และ $0.50 ต่อล้าน output tokens ข้อผิดพลาดและการปฏิเสธไม่มีการเรียกเก็บเงิน รับประกันว่าคุณจ่ายเฉพาะสำหรับการเสร็จสมบูรณ์ที่สำเร็จ

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.mistralaikey.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

ข้อจำกัด, ข้อผิดพลาด และความน่าเชื่อถือ

คุณจำกัดการใช้งานที่ 300 คำขอต่อนาที และ 8 คำขอพร้อมกันต่อคีย์ หากเกินขีดจำกัดนี้คุณจะได้รับข้อผิดพลาด 429 Too Many Requests การตรวจสอบสิทธิ์ล้มเหลวจะส่งสถานะ 401 Unauthorized ในขณะที่เครดิตไม่เพียงพอจะส่งสถานะ 402 Payment Required

ขีดจำกัดเหล่านี้รับประกันประสิทธิภาพที่เสถียรสำหรับผู้ใช้ทุกคน หากพบข้อผิดพลาด 401 โปรดตรวจสอบคีย์ API ของคุณและให้แน่ใจว่าไม่ได้ถูกแทนที่ ข้อผิดพลาด 402 หมายความว่าเครดิตที่ชำระล่วงหน้าหมดแล้ว และคุณต้องเติมเงินผ่านคริปโต ขนาด body ของคำขอจำกัดไว้ที่ 8 MB ดังนั้นข้อมูลขนาดใหญ่ควรบีบอัดหรือแบ่งส่วนอย่างเหมาะสม