Schnellstart: Integrieren Sie den OpenAI-kompatiblen Endpunkt

Voraussetzungen: Base-URL und Authentifizierung

Erstellen Sie zunächst einen Schlüssel auf der Seite API-Schlüssel abrufen. Melden Sie sich mit Google oder Ihrer E-Mail und Ihrem Passwort an, um Ihre Zugangsdaten sofort zu erhalten. Keine Telefonnummer ist erforderlich.

Legen Sie Ihre Base-URL auf HTTPS://api.apicost.cc/v1 fest. Verwenden Sie den generierten Schlüssel als Bearer-Token im Authorization-Header. Dies funktioniert mit jedem Standard-OpenAI-SDK-Client.

Sie benötigen nur einen aktiven Schlüssel pro Konto. Ein neuer Schlüssel ersetzt den alten. Ihre Prompts werden nicht zum Training verwendet.

Ihre erste Anfrage senden: einfache Chat-Vervollständigung

Senden Sie eine POST-Anfrage an /v1/chat/completions mit dem Modell „uncensored“. Übergeben Sie Ihre Benutzernachricht im messages-Array. Die API gibt eine Textantwort zurück.

Jede Anfrage zählt zu Ihrer Token-Nutzung. Eingabetokens kosten $0,15 pro Million. Ausgabetokens kosten $0,50 pro Million. Fehler und Ablehnungen sind kostenlos.

Stellen Sie sicher, dass Ihr Request-Body 8 MB nicht überschreitet. Die maximale Ausgabe beträgt 16.000 Tokens pro Anfrage.

Copycurl https://api.apicost.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current price per million tokens?"}]
  }'

Streaming-Antworten für Echtzeit-UI-Aktualisierungen

Aktivieren Sie das Streaming, indem Sie den Parameter „stream“ auf true setzen. Die API gibt Server-Sent Events (SSE) anstelle eines einzelnen JSON-Objekts zurück.

Analysieren Sie jeden Chunk, um Ihre Benutzeroberfläche in Echtzeit zu aktualisieren. Der letzte Chunk enthält die gesamten Token-Nutzungen für die Anfrage. Dies hilft Ihnen, die Kosten genau zu verfolgen.

Das Streaming funktioniert mit allen Standardparametern. Sie können die Anfrage bei Bedarf frühzeitig abbrechen. Der Server stoppt die Verarbeitung sofort.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apicost.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Kreativitätssteuerung: Temperatur, top_p und Seed

Passen Sie die Temperatur an, um die Zufälligkeit zu steuern. Niedrigere Werte machen die Antworten deterministischer. Höhere Werte steigern die Kreativität.

Legen Sie top_p fest, um den Bereich des Nucleus-Sampling zu begrenzen. Verwenden Sie seed, um bestimmte Ausgaben für Debugging-Zwecke zu reproduzieren. Diese Parameter funktionieren genau wie in der OpenAI API.

Kombinieren Sie diese Einstellungen, um das Modell für Ihren Anwendungsfall abzustimmen. Coding-Aufgaben profitieren oft von einer niedrigeren Temperatur. Kreatives Schreiben erfordert möglicherweise höhere Werte.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apicost.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Strukturierte Ausgaben mit JSON-Modus und Function Calling

Nutzen Sie response_format auf json_object für strenge JSON-Ausgaben. Das Modell gibt gültiges JSON ohne Markdown-Formatierung zurück. Dies ist nützlich zum Parsen von Daten in Ihrer Anwendung.

Function Calling ermöglicht es Ihnen, Tools in Ihrer Anfrage zu definieren. Das Modell kann diese Tools basierend auf der Benutzereingabe aufrufen. Verwenden Sie tool_choice, um zu steuern, wann das Modell ein Tool aufruft.

Beide Funktionen folgen dem Standard OpenAI-Schema. Sie können mehrere Tools in einer Anfrage definieren. Das Modell übernimmt das Routing automatisch.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Verständnis von Kontextfenstern und Token-Limits

Das Context-Window umfasst 100.000 Tokens. Dies umfasst sowohl Input- als auch Output-Tokens zusammen. Sie können lange Dokumente senden, ohne den Kontext zu verlieren.

Die Ratenbegrenzung beträgt 300 Anfragen pro Minute pro Schlüssel. Sie können 8 gleichzeitige Anfragen gleichzeitig ausführen. Das Überschreiten dieser Grenzen führt zu einem 429-Fehler.

Behandle Fehler korrekt in deinem Code. Ein 401-Fehler bedeutet, dass dein Schlüssel ungültig ist. Ein 402-Fehler bedeutet, dass du kein Guthaben hast. Lade mit Kryptowährung auf, um fortzufahren.