Pengenalan: Integrasikan dengan hujung sambungan serasi OpenAI

Prasyarat: URL Asas dan pengesahan

Mula dengan menjana kunci di halaman Dapatkan Kunci API. Log masuk dengan Google atau e-mel dan kata laluan anda untuk menerima kelayakan anda serta-merta. Tiada nombor telefon diperlukan.

Tetapkan URL asas anda kepada HTTPS://api.apicost.cc/v1. Gunakan kunci yang dijana sebagai token Bearer dalam header Authorization. Ini berfungsi dengan mana-mana klien SDK OpenAI piawai.

Anda hanya memerlukan satu kunci aktif per akaan. Kunci baharu menggantikan yang lama. Petikan anda tidak digunakan untuk latihan.

Menghantar permintaan pertama anda: penyiapan sembang mudah

Buat permintaan POST ke /v1/chat/completions dengan model ditetapkan kepada uncensored. Hantar mesej pengguna anda dalam larik messages. API mengembalikan respons teks.

Setiap permintaan dikira terhadap penggunaan token anda. Token input kos $0.15 per sejuta. Token output kos $0.50 per sejuta. Ralat dan penolakan adalah percuma.

Pastikan badan permintaan anda tidak melebihi 8 MB. Output maksimum ialah 16,000 token setiap permintaan.

Copycurl https://api.apicost.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current price per million tokens?"}]
  }'

Respons aliran untuk kemas kini UI masa nyata

Aktifkan penstriman dengan menetapkan parameter stream kepada true. API mengembalikan Acara Dikirim Pelayan (SSE) berbanding objek JSON tunggal.

Uraikan setiap pecahan untuk mengemas kini UI anda secara masa nyata. Pecahan akhir mengandungi penggunaan token jumlah untuk permintaan tersebut. Ini membantu anda menjejaki kos dengan tepat.

Penstriman berfungsi dengan semua parameter standard. Anda boleh membatalkan permintaan awal jika diperlukan. Pelayan berhenti memproses serta-merta.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apicost.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Mengawal kreativiti: suhu, top_p, dan benih

Laraskan suhu untuk mengawal keacakan. Nilai yang lebih rendah menjadikan respons lebih deterministik. Nilai yang lebih tinggi meningkatkan kreativiti.

Tetapkan top_p untuk had julat pensampelan nukleus. Gunakan benih untuk menghasilkan semula output tertentu untuk penyahpepijatan. Parameter ini berfungsi tepat seperti API OpenAI.

Gabungkan tetapan ini untuk menipukan model untuk kes penggunaan anda. Tugas pengkodan sering mendapat manfaat daripada suhu yang lebih rendah. Penulisan kreatif mungkin memerlukan nilai yang lebih tinggi.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apicost.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Output terstruktur dengan mod JSON dan pemanggilan fungsi

Gunakan format respons ditetapkan kepada json_object untuk output JSON yang ketat. Model akan mengembalikan JSON sah tanpa pemformatan markdown. Ini berguna untuk menguraikan data dalam aplikasi anda.

Pemanggilan fungsi membolehkan anda menentukan alat dalam permintaan anda. Model boleh memanggil alat ini berdasarkan input pengguna. Gunakan tool_choice untuk mengawal bila model memanggil alat.

Kedua-dua ciri mengikuti skema OpenAI standard. Anda boleh menentukan beberapa alat dalam satu permintaan. Model mengendalikan penghalaan secara automatik.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Memahami context window dan had token

Tingkap konteks ialah 100,000 token. Ini termasuk token input dan output digabungkan. Anda boleh menghantar dokumen panjang tanpa kehilangan konteks.

Had kadar permintaan adalah 300 permintaan setiap minit per kunci. Anda boleh mempunyai 8 permintaan serentak pada masa yang sama. Melangkaui had ini akan memulangkan ralat 429.

Tangani ralat dengan anggun dalam kod anda. Ralat 401 bermaksud kunci anda tidak sah. Ralat 402 bermaksud anda tiada kredit. Tambah baki dengan kripto untuk terus.