Inicio rápido: Integra con el endpoint compatible con OpenAI

Prerrequisitos: URL base y autenticación

Empieza por generar una clave en la página Obtener clave API. Inicia sesión con Google o con tu correo electrónico y contraseña para recibir tus credenciales al instante. No se requiere número de teléfono.

Configura tu URL base a HTTPS://api.apicost.cc/v1. Utiliza la clave generada como token Bearer en la cabecera Authorization. Esto funciona con cualquier cliente SDK estándar de OpenAI.

Solo necesitas una clave activa por cuenta. Una nueva clave reemplaza a la anterior. Tus prompts no se utilizan para el entrenamiento.

Enviar tu primera solicitud: completado de chat simple

Realiza una solicitud POST a /v1/chat/completions con el modelo configurado como uncensored. Envía tu mensaje de usuario en el array messages. La API devuelve una respuesta de texto.

Cada solicitud cuenta hacia tu uso de tokens. Los tokens de entrada cuestan $0.15 por millón. Los tokens de salida cuestan $0.50 por millón. Los errores y las denegaciones son gratuitos.

Asegúrate de que el cuerpo de la solicitud no supere los 8 MB. La salida máxima es de 16,000 tokens por solicitud.

Copycurl https://api.apicost.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current price per million tokens?"}]
  }'

Respuestas en streaming para actualizaciones de interfaz de usuario en tiempo real

Habilita el streaming estableciendo el parámetro stream en true. La API devuelve Eventos Enviados por el Servidor (SSE) en lugar de un único objeto JSON.

Analiza cada fragmento para actualizar tu interfaz de usuario en tiempo real. El fragmento final contiene el uso total de tokens de la solicitud. Esto te ayuda a rastrear los costes con precisión.

El streaming funciona con todos los parámetros estándar. Puedes cancelar la solicitud anticipadamente si es necesario. El servidor deja de procesar inmediatamente.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apicost.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Control de la creatividad: temperatura, top_p y seed

Ajusta la temperatura para controlar la aleatoriedad. Los valores más bajos hacen que las respuestas sean más deterministas. Los valores más altos aumentan la creatividad.

Establece top_p para limitar el rango del muestreo de núcleo. Usa seed para reproducir salidas específicas para depuración. Estos parámetros funcionan exactamente como la API de OpenAI.

Combina esta configuración para ajustar el modelo para tu caso de uso. Las tareas de codificación a menudo se benefician de una temperatura más baja. La escritura creativa puede necesitar valores más altos.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apicost.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Salidas estructuradas con modo JSON y llamadas a funciones

Usa response_format establecido en json_object para salidas JSON estrictas. El modelo devolverá JSON válido sin formato de markdown. Esto es útil para analizar datos en tu aplicación.

La llamada a funciones te permite definir herramientas en tu solicitud. El modelo puede invocar estas herramientas en función de la entrada del usuario. Usa tool_choice para controlar cuándo el modelo llama a una herramienta.

Ambas funciones siguen el esquema estándar de OpenAI. Puedes definir múltiples herramientas en una sola solicitud. El modelo maneja el enrutamiento automáticamente.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Comprender las ventanas de contexto y los límites de tokens

La ventana de contexto es de 100.000 tokens. Esto incluye los tokens de entrada y salida combinados. Puedes enviar documentos largos sin perder el contexto.

Los límites de tasa son de 300 solicitudes por minuto por clave. Puedes realizar 8 solicitudes concurrentes al mismo tiempo. Exceder estos límites devuelve un error 429.

Gestiona los errores de forma elegante en tu código. Un error 401 significa que tu clave no es válida. Un error 402 significa que no tienes crédito. Recarga con criptomonedas para continuar.