เริ่มต้นใช้งาน: ผสานรวมกับเอนด์พอยต์ที่รองรับ OpenAI

ข้อกำหนดเบื้องต้น: URL พื้นฐานและการตรวจสอบสิทธิ์

เริ่มต้นด้วยการสร้างคีย์บนหน้า Get API key ลงชื่อเข้าใช้ด้วย Google หรืออีเมลและรหัสผ่านเพื่อรับข้อมูลรับรองของคุณทันที ไม่ต้องใช้หมายเลขโทรศัพท์

ตั้งค่า URL ฐานของคุณเป็น HTTPS://api.apicost.cc/v1 ใช้คีย์ที่สร้างขึ้นเป็นโทเค็น Bearer ในหัวเรื่อง Authorization สิ่งนี้ใช้งานได้กับไคลเอนต์ SDK OpenAI มาตรฐานใดๆ

คุณต้องใช้คีย์ที่ใช้งานเพียงคีย์เดียวต่อบัญชี คีย์ใหม่จะแทนที่คีย์เก่า ประมผลของคุณจะไม่ถูกนำไปใช้ในการฝึกโมเดล

การส่ง request ครั้งแรกของคุณ: simple chat completion

ส่งคำขอ POST ไปยัง /v1/chat/completions โดยตั้งค่า model เป็น uncensored ส่งข้อความของผู้ใช้ในอาร์เรย์ messages API จะส่งข้อความตอบกลับเป็นข้อความ

แต่ละคำขอจะนับรวมในการใช้งาน tokens ของคุณ input tokens มีราคา $0.15 ต่อล้าน output tokens มีราคา $0.50 ต่อล้าน ข้อผิดพลาดและการปฏิเสธไม่คิดเงิน

ตรวจสอบให้แน่ใจว่า body ของคำขอของคุณมีขนาดไม่เกิน 8 MB ผลลัพธ์สูงสุดคือ 16,000 โทเค็นต่อคำขอ

Copycurl https://api.apicost.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current price per million tokens?"}]
  }'

การส่งแบบสตรีมมิ่งสำหรับการอัปเดต UI แบบเรียลไทม์

เปิดใช้งานการสตรีมโดยการตั้งค่าพารามิเตอร์ stream เป็น true API จะส่ง Server-Sent Events (SSE) แทนวัตถุ JSON เดียว

แยกวิเคราะห์แต่ละส่วนเพื่ออัปเดต UI ของคุณแบบเรียลไทม์ ส่วนสุดท้ายจะรวมการใช้โทเค็นทั้งหมดสำหรับคำขอนี้ ซึ่งช่วยให้คุณติดตามต้นทุนได้อย่างแม่นยำ

การสตรีมทำงานกับพารามิเตอร์มาตรฐานทั้งหมด คุณสามารถยกเลิกคำขอได้ก่อนหากจำเป็น เซิร์ฟเวอร์จะหยุดประมวลผลทันที

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apicost.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

การควบคุมความคิดสร้างสรรค์: temperature, top_p และ seed

ปรับค่า temperature เพื่อควบคุมความสุ่ม ค่าต่ำทำให้คำตอบมีความแน่นอนมากขึ้น ค่าสูงเพิ่มความสร้างสรรค์

ตั้งค่า top_p เพื่อจำกัดช่วงการสุ่มแบบ nucleus ใช้ seed เพื่อทำซ้ำผลลัพธ์เฉพาะสำหรับการดีบัก พารามิเตอร์เหล่านี้ทำงานเหมือนกับ API ของ OpenAI

ผสานการตั้งค่าเหล่านี้เพื่อปรับแต่งโมเดลให้เหมาะกับกรณีการใช้งานของคุณ งานเขียนโค้ดมักได้ประโยชน์จากอุณหภูมิต่ำ ในขณะที่งานเขียนเชิงสร้างสรรค์อาจต้องการค่าที่สูงกว่า

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apicost.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

เอาต์พุตแบบมีโครงสร้างพร้อมโหมด JSON และการเรียกใช้ฟังก์ชัน

ตั้งค่า response_format เป็น json_object สำหรับผลลัพธ์ JSON ที่เข้มงวด โมเดลจะส่งคืน JSON ที่ถูกต้องโดยไม่มีการจัดรูปแบบ markdown สิ่งนี้มีประโยชน์สำหรับการแยกวิเคราะห์ข้อมูลในแอปพลิเคชันของคุณ

การเรียกฟังก์ชันช่วยให้คุณกำหนดเครื่องมือในคำขอของคุณ โมเดลสามารถเรียกใช้เครื่องมือเหล่านี้โดยอิงจากข้อมูลนำเข้าของผู้ใช้ ใช้ tool_choice เพื่อควบคุมเวลาที่โมเดลจะเรียกใช้เครื่องมือ

ทั้งสองฟีเจอร์เป็นไปตามมาตรฐาน OpenAI schema คุณสามารถกำหนดเครื่องมือหลายตัวในการร้องขอหนึ่งครั้ง โมเดลจัดการการกำหนดเส้นทางอัตโนมัติ

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

ทำความเข้าใจหน้าต่างบริบทและขีดจำกัดโทเค็น

หน้าต่างบริบทมีขนาด 100,000 tokens ซึ่งรวมทั้ง tokens ของ input และ output รวมกัน คุณสามารถส่งเอกสารยาวๆ ได้โดยไม่สูญเสียบริบท

อัตราจำกัดการเรียกใช้คือ 300 ครั้งต่อนาทีต่อคีย์ คุณสามารถเรียกใช้พร้อมกันได้ 8 ครั้ง หากเกินอัตราจำกัดเหล่านี้ จะได้รับข้อผิดพลาด 429

จัดการข้อผิดพลาดอย่างสุภาพในโค้ดของคุณ ข้อผิดพลาด 401 หมายถึงคีย์ของคุณไม่ถูกต้อง ข้อผิดพลาด 402 หมายถึงคุณไม่มีเครดิต เติมเงินด้วยคริปโตเพื่อดำเนินการต่อ