התחלה מהירה: שילבו עם נקודת הקצה התואמת ל-OpenAI

דרישות מוקדמות: כתובת בסיס ואימות

התחל על ידי יצירת מפתח בדף Get API key. התחבר עם Google או עם האימייל והסיסמה שלך כדי לקבל את האישור שלך מיד. אין צורך במספר טלפון.

הגדר את כתובת ה-URL הבסיסית שלך ל-HTTPS://api.apicost.cc/v1. השתמש במפתח שנוצר כאסימון Bearer בראש ההרשאה. זה עובד עם כל לקוח SDK סטנדרטי של OpenAI.

בכל חשבון יש רק מפתח פעיל אחד. מפתח חדש מחליף את הישן. הפרומפטים שלך לא משמשים לאימון המודל.

שליחת הבקשה הראשונה שלך: השלמת צ'אט פשוטה

שלחו בקשת POST ל-/v1/chat/completions עם המודל מוגדר ל-uncensored. שלחו את ההודעה של המשתמש במערך messages. ה-API מחזיר תגובת טקסט.

כל בקשה נספרת כחלק משימוש הטוקנים שלך. טוקני קלט עולים $0.15 למיליון. טוקני פלט עולים $0.50 למיליון. שגיאות וסירובים הם ללא תשלום.

ודאו שגוף הבקשה נשאר מתחת ל-8 MB. הפלט המקסימלי הוא 16,000 טוקנים לכל בקשה.

Copycurl https://api.apicost.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current price per million tokens?"}]
  }'

תגובות בזרם לעדכוני ממשק משתמש בזמן אמת

אפשרו זרם על ידי הגדרת הפרמטר stream לערך true. ה-API מחזיר אירועים שנשלחו על ידי השרת (SSE) במקום אובייקט JSON יחיד.

נתח כל מקטע כדי לעדכן את הממשק שלך בזמן אמת. המקטע הסופי מכיל את סך השימוש בטוקנים לבקשה. זה עוזר לך לעקוב אחר עלויות במדויק.

הזרם עובד עם כל הפרמטרים הסטנדרטיים. ניתן לבטל את הבקשה מוקדם אם צריך. השרת מפסיק לעבד מיד.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apicost.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

שליטה על יצירתיות: temperature, top_p ו-seed

התאם את הטמפרטורה לשליטה באקראיות. ערכים נמוכים הופכים את התגובות ליותר דטרמיניסטיות. ערכים גבוהים מגבירים את היצירתיות.

הגדירו top_p כדי להגביל את טווח דגימת הגרעין. השתמשו ב-seed לשחזור פלט ספציפי לניפוי באגים. פרמטרים אלו עובדים בדיוק כמו ה-API של OpenAI.

שלבו הגדרות אלו כדי לכוונן את המודל למקרה השימוש שלכם. משימות קידוד נהנות לרוב מטמפרטורה נמוכה יותר. כתיבה יצירתית עשויה להזדקק לערכים גבוהים יותר.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apicost.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

פלט מבני עם מצב JSON וקריאת פונקציות

הגדירו response_format ל-json_object לתפוקות JSON קפדניות. המודל יחזיר JSON תקף ללא עיצוב מרקדאון. זה שימושי לניתוח נתונים באפליקציה שלכם.

קריאה לפונקציה מאפשרת לך להגדיר כלים בבקשה שלך. המודל יכול לקרוא לכלים אלו בהתבסס על קלט המשתמש. השתמש ב-tool_choice כדי לשלוט מתי המודל קורא לכלי.

שתי התכונות עוקבות אחר סכמת ה-OpenAI הסטנדרטית. באפשרותך להגדיר מספר כלים בבקשה אחת. המודל מטפל בהפנייה באופן אוטומטי.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

הBנת חלונות הקשר ומגבלות הטוקנים

חלון ההקשר מכיל 100,000 טוקנים. זה כולל את הטוקנים של הקלט ושל הפלט יחד. ניתן לשלוח מסמכים ארוכים ללא אובדן הקשר.

מגבלות הקצב הן 300 בקשות לדקה לכל מפתח. ניתן לבצע 8 בקשות מקבילות בו זמנית. חריגה ממגבלות אלו תחזיר שגיאת 429.

טפלו בשגיאות בצורה חכמה בקוד שלכם. שגיאת 401 אומרת שהמפתח שלכם לא חוקי. שגיאת 402 אומרת שאין לכם זכות. הוסיפו כסף עם קריפטו כדי להמשיך.