Hızlı Başlangıç: OpenAI-uyumlu uç nokta ile Entegre Edin

Önkoşullar: Temel URL ve kimlik doğrulama

API anahtarını oluşturmak için Get API key sayfasına gidin. Kimlik bilgilerinizi hemen almak için Google veya e-posta ve şifrenizle oturum açın. Telefon numarası gerekmez.

Base URL'inizi HTTPS://api.apicost.cc/v1 olarak ayarlayın. Anahtarınızı Authorization başlığında Bearer token olarak kullanın. Bu, herhangi bir standart OpenAI SDK istemcisiyle çalışır.

Hesap başına yalnızca bir aktif anahtar gerekir. Yeni anahtar, eskisini yerini alır. İstemleriniz eğitim için kullanılmaz.

İlk isteğinizi gönderme: basit sohbet tamamlama

Modeli uncensored olarak ayarlayarak /v1/chat/completions adresine bir POST isteği gönderin. Kullanıcı mesajınızı messages dizisi içinde gönderin. API bir metin yanıtı döndürür.

Her istek token kullanımınıza dahil edilir. Girdi tokenları milyon başına 0,15 $ eder. Çıktı tokenları milyon başına 0,50 $ eder. Hatalar ve reddetmeler ücretsizdir.

İstek gövdenizin 8 MB altında kaldığından emin olun. İstek başına maksimum çıktı 16,000 token'dır.

Copycurl https://api.apicost.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current price per million tokens?"}]
  }'

Gerçek zamanlı UI güncellemeleri için akış yanıtları

Akış özelliğini etkinleştirin ve stream parametresini true olarak ayarlayın. API, tek bir JSON nesnesi yerine Sunucu Tarafından Gönderilen Olaylar (SSE) döndürür.

Arayüzünüzü gerçek zamanlı olarak güncellemek için her parçayı ayrıştırın. Son parça, istek için toplam token kullanımını içerir. Bu, maliyetleri doğru bir şekilde takip etmenize yardımcı olur.

Akış, tüm standart parametrelerle çalışır. Gerekirse isteği erken iptal edebilirsiniz. Sunucu hemen işlemeyi durdurur.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apicost.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Yaratıcılık kontrolü: sıcaklık, top_p ve seed

Rastgeleliği kontrol etmek için sıcaklığı ayarlayın. Daha düşük değerler yanıtları daha belirgin hale getirir. Daha yüksek değerler yaratıcılığı artırır.

top_p'yi çekirdek örnekleme aralığını sınırlamak için kullanın. Belirli çıktıları hata ayıklama amacıyla yeniden üretmek için seed kullanın. Bu parametreler OpenAI API ile tam olarak aynı şekilde çalışır.

Bu ayarları kullanım durumunuz için modeli ince ayarlamak amacıyla birleştirin. Kodlama görevleri genellikle daha düşük sıcaklıktan yararlanır. Yaratıcı yazma daha yüksek değerler gerektirebilir.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apicost.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

JSON modu ve fonksiyon çağırma ile yapılandırılmış çıktılar

Sıkı JSON çıktıları için response_format json_object değerini json_object olarak ayarlayın. Model, markdown biçimlendirmesi olmadan geçerli JSON döndürür. Bu, uygulamanızda veri ayrıştırma için kullanışlıdır.

Fonksiyon çağırma, isteklerinizde araçlar tanımlamanıza olanak tanır. Model, kullanıcı girdisine dayanarak bu araçları çağırabilir. Modelin bir aracı ne zaman çağıracağını kontrol etmek için tool_choice parametresini kullanın.

Her iki özellik de standart OpenAI şemasını izler. Bir istek içinde birden fazla araç tanımlayabilirsiniz. Model, yönlendirmeyi otomatik olarak halleder.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Bağlam pencerelerini ve token sınırlarını anlama

Bağlam penceresi 100.000 token'dır. Bu hem giriş hem de çıkış tokenlarını birleştirir. Bağlam kaybı olmadan uzun belgeler gönderebilirsiniz.

İstek limitleri anahtar başına dakikada 300 istektir. Aynı anda 8 eşzamanlı istek yapabilirsiniz. Bu limitleri aşmanız 429 hatasına neden olur.

Kodunuzda hataları zarifçe yönetin. 401 hatası anahtarınızın geçersiz olduğunu gösterir. 402 hatası krediniz olmadığını belirtir. Devam etmek için kripto ile yükleyin.