Quickstart: Integrați cu punctul final compatibil cu OpenAI

Precondiții: URL de bază și autentificare

Începeți prin a genera o cheie pe pagina Obțineți cheie API. Conectați-vă cu Google sau cu e-mailul și parola pentru a primi acreditarea instantaneu. Nu este necesar un număr de telefon.

Configurați URL-ul de bază la HTTPS://api.apicost.cc/v1. Utilizați cheia generată ca token Bearer în antetul Authorization. Acest lucru funcționează cu orice client SDK standard OpenAI.

Ai nevoie doar de o cheie activă per cont. O cheie nouă înlocuiește pe cea veche. Prompts-urile tale nu sunt folosite pentru antrenament.

Trimiterea primei tale cereri: completare de chat simplă

Trimiteți o cerere POST către /v1/chat/completions cu modelul setat la uncensored. Trimite mesajul tău de utilizator în array-ul messages. API-ul returnează un răspuns text.

Fiecare solicitare se numără în utilizarea totală de tokeni. Tokenii de intrare costă 0,15 $ per milion. Tokenii de ieșire costă 0,50 $ per milion. Erorile și refuzurile sunt gratuite.

Asigură-te că corpul cererii rămâne sub 8 MB. Ieșirea maximă este de 16,000 de tokeni per cerere.

Copycurl https://api.apicost.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current price per million tokens?"}]
  }'

Răspunsuri în flux pentru actualizări UI în timp real

Activați streaming-ul setând parametrul stream la true. API-ul returnează Evenimente trimise de server (SSE) în loc de un singur obiect JSON.

Analizați fiecare fragment pentru a vă actualiza interfața utilizator în timp real. Fragmentul final conține utilizarea totală de tokeni pentru solicitare. Acest lucru vă ajută să urmăriți costurile cu precizie.

Streaming-ul funcționează cu toți parametrii standard. Poți anula cererea devreme dacă este necesar. Serverul oprește procesarea imediat.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apicost.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Controlarea creativității: temperatura, top_p și seed

Ajustează temperatura pentru a controla aleatorietatea. Valorile mai mici fac răspunsurile mai deterministe. Valorile mai mari cresc creativitatea.

Setează top_p pentru a limita intervalul de eșantionare nucleu. Folosește seed pentru a reproduce ieșiri specifice în scop de depanare. Acești parametri funcționează exact ca API-ul OpenAI.

Combină aceste setări pentru a ajusta modelul pentru cazul tău de utilizare. Sarcinile de programare beneficiază adesea de o temperatură mai scăzută. Scrierea creativă poate necesita valori mai mari.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apicost.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Output-uri structurate cu modul JSON și apelarea de funcții

Folosește response_format setat la json_object pentru output-uri JSON stricte. Modelul va returna JSON valid fără formatare markdown. Acest lucru este util pentru analizarea datelor în aplicația ta.

Function calling îți permite să definești instrumente în cererea ta. Modelul poate apela aceste instrumente în funcție de input-ul utilizatorului. Folosește tool_choice pentru a controla momentul în care modelul apelează un instrument.

Ambele funcționalități urmează schema standard OpenAI. Puteți defini mai multe instrumente într-o singură cerere. Modelul gestionează rutarea automat.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Înțelegerea ferestrelor de context și a limitelor de tokeni

Fereastra de context are 100.000 de tokeni. Acest lucru include tokenii de input și output combinați. Poți trimite documente lungi fără a pierde contextul.

Limitările de rată sunt de 300 de cereri pe minut per cheie. Puteți avea 8 cereri concurente simultan. Depășirea acestor limite returnează o eroare 429.

Gestionați erorile cu grijă în codul dvs. O eroare 401 înseamnă că cheia este nevalidă. O eroare 402 înseamnă că nu aveți credit. Alimentează cu criptomonede pentru a continua.