Panduan Cepat: Integrasi dengan endpoint kompatibel OpenAI

Prasyarat: URL Dasar dan autentikasi

Mulai dengan membuat kunci di halaman Dapatkan Kunci API. Masuk dengan Google atau email dan kata sandi Anda untuk menerima kredensial Anda secara instan. Tidak diperlukan nomor telepon.

Atur URL dasar Anda menjadi HTTPS://api.apicost.cc/v1. Gunakan kunci yang dihasilkan sebagai token Bearer di header Authorization. Ini berfungsi dengan klien SDK OpenAI standar mana pun.

Anda hanya perlu satu kunci aktif per akun. Kunci baru menggantikan kunci lama. Prompt Anda tidak digunakan untuk pelatihan.

Mengirimkan permintaan pertama Anda: penyelesaian chat sederhana

Buat permintaan POST ke /v1/chat/completions dengan model diatur ke uncensored. Kirim pesan pengguna Anda dalam array messages. API mengembalikan respons teks.

Setiap permintaan dihitung terhadap penggunaan token Anda. Token input berharga $0,15 per juta. Token output berharga $0,50 per juta. Kesalahan dan penolakan gratis.

Pastikan body permintaan Anda tidak melebihi 8 MB. Output maksimum adalah 16.000 token per permintaan.

Copycurl https://api.apicost.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current price per million tokens?"}]
  }'

Responsi streaming untuk pembaruan UI real-time

Aktifkan streaming dengan mengatur parameter stream menjadi true. API mengembalikan Server-Sent Events (SSE) alih-alih objek JSON tunggal.

Parse setiap potongan untuk memperbarui UI Anda secara real-time. Potongan terakhir berisi penggunaan token total untuk permintaan. Ini membantu Anda melacak biaya secara akurat.

Streaming bekerja dengan semua parameter standar. Anda dapat membatalkan permintaan lebih awal jika diperlukan. Server menghentikan pemrosesan segera.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apicost.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Mengatur kreativitas: temperature, top_p, dan seed

Sesuaikan temperatur untuk mengontrol keacakan. Nilai yang lebih rendah membuat respons lebih deterministik. Nilai yang lebih tinggi meningkatkan kreativitas.

Atur top_p untuk membatasi jangkauan sampling nuklir. Gunakan seed untuk mereproduksi output tertentu untuk debugging. Parameter ini bekerja persis seperti API OpenAI.

Gabungkan pengaturan-pengaturan ini untuk menyesuaikan model untuk kasus penggunaan Anda. Tugas pemrograman sering kali diuntungkan dengan suhu yang lebih rendah. Penulisan kreatif mungkin memerlukan nilai yang lebih tinggi.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apicost.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Output terstruktur dengan mode JSON dan pemanggilan fungsi

Gunakan response_format disetel ke json_object untuk output JSON ketat. Model akan mengembalikan JSON valid tanpa pemformatan markdown. Ini berguna untuk mengurai data di aplikasi Anda.

Pemanggilan fungsi memungkinkan Anda mendefinisikan alat dalam permintaan Anda. Model dapat memanggil alat ini berdasarkan input pengguna. Gunakan tool_choice untuk mengontrol kapan model memanggil alat.

Kedua fitur mengikuti skema OpenAI standar. Anda dapat mendefinisikan beberapa alat dalam satu permintaan. Model menangani pengaliran secara otomatis.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Memahami context window dan batas token

Jendela konteks adalah 100.000 token. Ini mencakup token input dan output yang digabungkan. Anda dapat mengirim dokumen panjang tanpa kehilangan konteks.

Batas laju adalah 300 permintaan per menit per kunci. Anda dapat memiliki 8 permintaan simultan pada waktu yang sama. Melebihi batas ini akan mengembalikan kesalahan 429.

Tangani kesalahan dengan baik dalam kode Anda. Kesalahan 401 berarti kunci Anda tidak valid. Kesalahan 402 berarti Anda tidak memiliki kredit. Isi ulang dengan kripto untuk melanjutkan.