شروع سریع: ادغام با نقطه پایانی سازگار با OpenAI

پیش‌نیازها: URL پایه و احراز هویت

ابتدا با رفتن به صفحه دریافت کلید API، یک کلید تولید کنید. با استفاده از حساب Google یا ایمیل و رمز عبور خود وارد شوید تا اعتبارنامه‌تان را بلافاصله دریافت کنید. نیازی به شماره تلفن نیست.

URL پایه خود را به HTTPS://api.apicost.cc/v1 تنظیم کنید. از کلید تولید شده به عنوان توکن Bearer در هدر Authorization استفاده کنید. این کار با هر کلاینت SDK استاندارد OpenAI کار می‌کند.

برای هر حساب کاربری تنها به یک کلید فعال نیاز دارید. کلید جدید جایگزین کلید قبلی می‌شود. پرامپت‌های شما برای آموزش استفاده نمی‌شوند.

ارسال اولین درخواست شما: تکمیل چت ساده

درخواست POST به /v1/chat/completions با تنظیم مدل روی uncensored ارسال کنید. پیام کاربر خود را در آرایه messages ارسال کنید. API یک پاسخ متنی برمی‌گرداند.

هر درخواست در استفاده از توکن شما شمارش می‌شود. توکن‌های ورودی ۰.۱۵ دلار به ازای هر میلیون هزینه دارند. توکن‌های خروجی ۰.۵۰ دلار به ازای هر میلیون هزینه دارند. خطاها و رد شدن‌ها رایگان هستند.

اطمینان حاصل کنید که بدنه درخواست شما کمتر از ۸ مگابایت باشد. حداکثر خروجی ۱۶,۰۰۰ توکن در هر درخواست است.

Copycurl https://api.apicost.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current price per million tokens?"}]
  }'

پاسخ‌های استریم‌شده برای به‌روزرسانی‌های رابط کاربری بلادرنگ

با تنظیم پارامتر stream روی true، قابلیت streaming را فعال کنید. API به جای یک شیء JSON واحد، رویدادهای ارسالی سرور (SSE) برمی‌گرداند.

هر قطعه را پارز کنید تا رابط کاربری خود را به‌صورت بلادرنگ به‌روزرسانی کنید. قطعه نهایی شامل استفاده کلی از توکن برای درخواست است. این به شما کمک می‌کند هزینه‌ها را به‌طور دقیق ردیابی کنید.

استریم با تمام پارامترهای استاندارد کار می‌کند. می‌توانید درخواست را زودتر از موعد لغو کنید. سرور بلافاصله پردازش را متوقف می‌کند.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apicost.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

کنترل خلاقیت: دما، top_p و seed

دمای (temperature) را برای کنترل تصادفی‌سازی تنظیم کنید. مقادیر پایین‌تر پاسخ‌ها را قطعی‌تر می‌کنند. مقادیر بالاتر خلاقیت را افزایش می‌دهند.

top_p را برای محدود کردن محدوده نمونه‌گیری هسته تنظیم کنید. از seed برای بازتولید خروجیات خاص جهت اشکال‌زدایی استفاده کنید. این پارامترها دقیقاً مانند API OpenAI عمل می‌کنند.

این تنظیمات را برای تنظیم مدل برای مورد استفاده خود ترکیب کنید. وظایف برنامه‌نویسی اغلب از دمای پایین‌تر بهره می‌برند. نوشتن خلاق ممکن است به مقادیر بالاتری نیاز داشته باشد.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apicost.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

خروجی‌های ساختاریافته با حالت JSON و فراخوانی تابع

response_format را روی json_object تنظیم کنید تا خروجی‌های JSON دقیق دریافت کنید. مدل JSON معتبر را بدون قالب‌بندی markdown بازگردانی می‌کند. این برای تجزیه داده‌ها در برنامه شما مفید است.

فراخوانی تابع به شما امکان تعریف ابزارها در درخواست خود را می‌دهد. مدل می‌تواند بر اساس ورودی کاربر، این ابزارها را فراخوانی کند. از tool_choice برای کنترل زمان فراخوانی ابزار توسط مدل استفاده کنید.

هر دو ویژگی از طرحواره استاندارد OpenAI پیروی می‌کنند. می‌توانید ابزارهای متعددی را در یک درخواست تعریف کنید. مدل مسیریابی را به صورت خودکار مدیریت می‌کند.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

درک پنجره‌های زمینه و محدودیت‌های توکن

پنجره زمینه ۱۰۰,۰۰۰ توکن است. این شامل توکن‌های ورودی و خروجی به صورت ترکیبی است. می‌توانید اسناد طولانی را بدون از دست دادن زمینه ارسال کنید.

محدودیت نرخ ۳۰۰ درخواست در دقیقه به ازای هر کلید است. می‌توانید ۸ درخواست همزمان داشته باشید. تجاوز از این محدودیت‌ها خطای ۴۲۹ را برمی‌گرداند.

خطاها را در کد خود به شیوه‌ای مناسب مدیریت کنید. خطای ۴۰۱ یعنی کلید شما نامعتبر است. خطای ۴۰۲ یعنی اعتباری ندارید. برای ادامه کار با ارز دیجیتال شارژ کنید.