Snelstart: integreer met het OpenAI-compatible eindpunt

Vereisten: Basis-URL en authenticatie

Genereer eerst een sleutel op de pagina API-sleutel ophalen. Log in met Google of uw e-mailadres en wachtwoord om uw referenties direct te ontvangen. Er is geen telefoonnummer nodig.

Stel je base URL in op HTTPS://api.apicost.cc/v1. Gebruik de gegenereerde sleutel als Bearer-token in de Authorization-header. Dit werkt met elke standaard OpenAI SDK-client.

Je hebt maar één actieve sleutel per account nodig. Een nieuwe sleutel vervangt de oude. Je prompts worden niet gebruikt voor training.

Je eerste verzoek versturen: eenvoudige chat-completie

Stuur een POST-verzoek naar /v1/chat/completions met het model ingesteld op uncensored. Stuur je gebruikersbericht in de messages-array. De API retourneert een tekstantwoord.

Elk verzoek telt mee voor je tokengebruik. Invoertokens kosten $0,15 per miljoen. Uitvoertokens kosten $0,50 per miljoen. Fouten en weigeringen zijn gratis.

Zorg ervoor dat je request body onder de 8 MB blijft. De maximale output is 16.000 tokens per verzoek.

Copycurl https://api.apicost.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current price per million tokens?"}]
  }'

Streaming responses voor realtime UI-updates

Schakel streaming in door de stream-parameter in te stellen op true. De API retourneert Server-Sent Events (SSE) in plaats van een enkel JSON-object.

Parseer elke chunk om uw UI in real-time bij te werken. De laatste chunk bevat het totale tokengebruik voor het verzoek. Dit helpt u kosten nauwkeurig te volgen.

Streaming werkt met alle standaardparameters. Je kunt het verzoek vroegtijdig annuleren indien nodig. De server stopt onmiddellijk met verwerken.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apicost.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Creativiteit sturen: temperatuur, top_p en seed

Pas de temperatuur aan om willekeurigheid te regelen. Lagere waarden maken de antwoorden meer deterministisch. Hogere waarden verhogen de creativiteit.

Stel top_p in om het bereik van nucleus sampling te beperken. Gebruik seed om specifieke outputs te reproduceren voor foutopsporing. Deze parameters werken exact zoals de OpenAI API.

Combineer deze instellingen om het model af te stemmen op je use case. Codetaken profiteren vaak van een lagere temperature. Creatief schrijven kan hogere waarden nodig hebben.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apicost.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Gestructureerde uitvoer met JSON-modus en function calling

Gebruik response_format ingesteld op json_object voor strikte JSON-outputs. Het model retourneert geldige JSON zonder markdown-opmaak. Dit is nuttig voor het parseren van gegevens in je applicatie.

Met function calling kunt u tools definiëren in uw verzoek. Het model kan deze tools aanroepen op basis van de gebruikersinvoer. Gebruik tool_choice om te sturen wanneer het model een tool aanroept.

Beide functies volgen de standaard OpenAI-schema's. Je kunt meerdere tools in één verzoek definiëren. Het model verwerkt de routing automatisch.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Contextvensters en tokenlimieten begrijpen

Het contextvenster is 100.000 tokens. Dit omvat zowel input- als output-tokens samen. Je kunt lange documenten versturen zonder contextverlies.

De rate limits zijn 300 verzoeken per minuut per sleutel. Je kunt 8 gelijktijdige verzoeken tegelijk uitvoeren. Het overschrijden van deze limieten retourneert een 429-fout.

Handel fouten soepel af in je code. Een 401-fout betekent dat je sleutel ongeldig is. Een 402-fout betekent dat je geen credit hebt. Laad op met crypto om door te gaan.