빠른 시작: OpenAI 호환 엔드포인트와 함께 통합하기

필수 조건: 베이스 URL 및 인증

API 키 생성 페이지에서 키를 생성하세요. Google 또는 이메일과 비밀번호로 로그인하여 자격 증명을 즉시 받으세요. 전화번호는 필요하지 않습니다.

기본 URL을 HTTPS://api.apicost.cc/v1로 설정하세요. 생성된 키를 Authorization 헤더의 Bearer 토큰으로 사용하세요. 이는 모든 표준 OpenAI SDK 클라이언트와 호환됩니다.

계정당 활성 키는 하나만 필요합니다. 새 키가 이전 키를 대체합니다. 프롬프트는 학습에 사용되지 않습니다.

첫 요청 보내기: 기본 채팅 완료

uncensored 모델을 사용하여 /v1/chat/completions으로 POST 요청을 보내세요. messages 배열에 사용자 메시지를 보내세요. API는 텍스트 응답을 반환합니다.

각 요청은 토큰 사용량에 카운트됩니다. 입력 토큰은 백만 개당 $0.15, 출력 토큰은 백만 개당 $0.50입니다. 오류와 거부 요청은 무료입니다.

요청 본문이 8 MB를 초과하지 않도록 하세요. 요청당 최대 출력은 16,000 토큰입니다.

Copycurl https://api.apicost.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current price per million tokens?"}]
  }'

실시간 UI 업데이트를 위한 스트리밍 응답

stream 파라미터를 true로 설정하여 스트리밍을 활성화하세요. API는 단일 JSON 객체 대신 서버 전송 이벤트(SSE)를 반환합니다.

각 청크를 파싱하여 UI를 실시간으로 업데이트하세요. 마지막 청크에는 요청의 총 토큰 사용량이 포함됩니다. 이는 비용을 정확하게 추적하는 데 도움이 됩니다.

모든 표준 매개변수와 함께 작동합니다. 필요한 경우 요청을 조기에 취소할 수 있습니다. 서버는 즉시 처리를 중단합니다.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apicost.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

창의성 제어: temperature, top_p, seed

무작위성을 제어하기 위해 temperature를 조정하세요. 낮은 값은 응답을 더 결정론적으로 만듭니다. 높은 값은 창의성을 높입니다.

top_p를 사용하여 nucleus sampling 범위를 제한하세요. 디버깅을 위해 특정 출력을 재현하기 위해 seed를 사용하세요. 이러한 파라미터는 OpenAI API와 정확히 동일하게 작동합니다.

사용 사례에 맞게 모델을 조정하기 위해 이러한 설정을 결합하세요. 코딩 작업은 일반적으로 낮은 온도의 이점을 얻습니다. 창의적인 글쓰기는 더 높은 값이 필요할 수 있습니다.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apicost.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

JSON 모드 및 함수 호출을 사용한 구조화된 출력

response_format을 json_object로 설정하여 엄격한 JSON 출력을 얻으세요. 모델은 마크다운 형식 없이 유효한 JSON을 반환합니다. 이는 애플리케이션에서 데이터 파싱에 유용합니다.

함수 호출을 통해 요청에 도구를 정의할 수 있습니다. 모델은 사용자 입력에 기반하여 이러한 도구를 호출할 수 있습니다. tool_choice를 사용하여 모델이 도구를 호출할 시점을 제어하세요.

두 기능 모두 표준 OpenAI 스키마를 따릅니다. 하나의 요청에서 여러 도구를 정의할 수 있습니다. 모델은 라우팅을 자동으로 처리합니다.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

컨텍스트 창과 토큰 제한 이해하기

컨텍스트 윈도우는 100,000 토큰입니다. 입력 및 출력 토큰을 합산합니다. 컨텍스트 손실 없이 긴 문서를 전송할 수 있습니다.

속도 제한은 키당 분당 300회 요청입니다. 동시에 8개의 요청을 보낼 수 있습니다. 이 제한을 초과하면 429 오류가 반환됩니다.

코드에서 오류를 우아하게 처리하세요. 401 오류는 키가 유효하지 않음을 의미합니다. 402 오류는 크레딧이 없음을 의미합니다. 계속하려면 암호화폐로 충전하세요.