Início rápido: integre com o endpoint compatível com OpenAI

Pré-requisitos: URL Base e autenticação

Come gerando uma chave na página Obter chave de API. Faça login com Google ou seu e-mail e senha para receber suas credenciais instantaneamente. Nenhum número de telefone é necessário.

Defina seu URL base para HTTPS://api.apicost.cc/v1. Use a chave gerada como token Bearer no cabeçalho Authorization. Isso funciona com qualquer cliente SDK padrão da OpenAI.

Você só precisa de uma chave ativa por conta. Uma nova chave substitui a antiga. Seus prompts não são usados para treinamento.

Enviando sua primeira solicitação: conclusão de chat simples

Faça uma solicitação POST para /v1/chat/completions com o modelo definido como uncensored. Envie sua mensagem do usuário no array messages. A API retorna uma resposta em texto.

Cada solicitação conta para o uso de tokens. Tokens de entrada custam $0,15 por milhão. Tokens de saída custam $0,50 por milhão. Erros e recusas são gratuitos.

Garanta que o corpo da solicitação fique abaixo de 8 MB. A saída máxima é de 16.000 tokens por solicitação.

Copycurl https://api.apicost.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current price per million tokens?"}]
  }'

Respostas em streaming para atualizações de interface em tempo real

Ative o streaming definindo o parâmetro stream como true. A API retorna Server-Sent Events (SSE) em vez de um único objeto JSON.

Analise cada chunk para atualizar sua UI em tempo real. O último chunk contém o uso total de tokens da solicitação. Isso ajuda você a rastrear custos com precisão.

O streaming funciona com todos os parâmetros padrão. Você pode cancelar a solicitação antecipadamente, se necessário. O servidor interrompe o processamento imediatamente.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apicost.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Controlando a criatividade: temperatura, top_p e seed

Ajuste a temperatura para controlar a aleatoriedade. Valores mais baixos tornam as respostas mais determinísticas. Valores mais altos aumentam a criatividade.

Defina top_p para limitar o intervalo de amostragem por núcleo. Use seed para reproduzir saídas específicas para depuração. Esses parâmetros funcionam exatamente como a API OpenAI.

Combine essas configurações para ajustar o modelo para o seu caso de uso. Tarefas de codificação geralmente se beneficiam de temperatura mais baixa. Escrita criativa pode precisar de valores mais altos.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apicost.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Saídas estruturadas com modo JSON e chamada de funções

Defina response_format como json_object para saídas JSON estritas. O modelo retornará JSON válido sem formatação de markdown. Isso é útil para analisar dados no seu aplicativo.

A chamada de função permite definir ferramentas na sua solicitação. O modelo pode chamar essas ferramentas com base na entrada do usuário. Use tool_choice para controlar quando o modelo chama uma ferramenta.

Ambos os recursos seguem o esquema padrão do OpenAI. Você pode definir várias ferramentas em uma única solicitação. O modelo lida com o roteamento automaticamente.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Entendendo janelas de contexto e limites de tokens

A janela de contexto é de 100.000 tokens. Isso inclui a combinação de tokens de entrada e saída. Você pode enviar documentos longos sem perder o contexto.

Os limites de taxa são de 300 solicitações por minuto por chave. Você pode fazer 8 solicitações simultâneas ao mesmo tempo. Exceder esses limites retorna um erro 429.

Trate os erros com elegância no seu código. Um erro 401 significa que sua chave é inválida. Um erro 402 significa que você não tem crédito. Recarregue com cripto para continuar.