API 成本快速上手:整合 OpenAI 相容端點
快速上手:整合 OpenAI 相容端點
取得您的無審查 LLM API 金鑰,並在數秒內開始發送文字。本指南涵蓋基礎 URL、身份驗證以及整合我們的與 OpenAI 相容端點所需的精確請求。
前置條件:基礎 URL 與身份驗證
在「取得 API 金鑰」頁面生成金鑰。使用 Google 或電子郵件與密碼登入,即可立即取得憑證。無需提供手機號碼。
將基礎 URL 設定為 HTTPS://api.apicost.cc/v1。使用產生的金鑰作為 Authorization 標頭中的 Bearer token。這適用於任何標準的 OpenAI SDK 客戶端。
每個帳戶只需一個有效金鑰。新金鑰會取代舊金鑰。您的提示詞不會用於模型訓練。
發送您的第一個請求:基本聊天完成
向 /v1/chat/completions 發送 POST 請求,並將模型設為 uncensored。在 messages 陣列中傳送您的使用者訊息。API 將返回文本回應。
每個請求都會計入您的 token 使用量。輸入 token 每百萬個成本為 $0.15。輸出 token 每百萬個成本為 $0.50。錯誤和拒絕免費。
確保您的請求主體不超過 8 MB。每次請求的最大輸出為 16,000 個 token。
curl https://api.apicost.cc/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "What is the current price per million tokens?"}]
}'
用於即時 UI 更新的串流回應
透過將 stream 參數設為 true 來啟用串流。API 會傳回伺服器發送事件(SSE),而非單一 JSON 物件。
解析每個區塊以即時更新您的 UI。最後一個區塊包含請求的總 token 用量。這有助於您準確追蹤成本。
串流支援所有標準參數。如有需要,您可以提前取消請求。伺服器會立即停止處理。
from openai import OpenAI
client = OpenAI(base_url="https://api.apicost.cc/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
控制創造力:temperature、top_p 和 seed
調整 temperature 以控制隨機性。較低的值會使回應更具決定性,較高的值則能增加創意。
設定 top_p 以限制核心採樣範圍。使用 seed 以重現特定輸出以進行除錯。這些參數的作用方式與 OpenAI API 完全相同。
結合這些設置以針對您的用例調整模型。編碼任務通常從較低的溫度中受益。創意寫作可能需要更高的值。
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.apicost.cc/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
結合 JSON 模式與函式呼叫的結構化輸出
將 response_format 設為 json_object 以獲得嚴格的 JSON 輸出。模型將返回不含 Markdown 格式的有效 JSON。這有助於在應用程式中解析數據。
函式呼叫允許您在請求中定義工具。模型可根據使用者輸入呼叫這些工具。使用 tool_choice 參數來控制模型何時呼叫工具。
兩項功能均遵循標準 OpenAI 架構。您可以在單一請求中定義多個工具。模型會自動處理路由。
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
了解上下文視窗與 Token 限制
上下文視窗為 100,000 個 token。這包括輸入和輸出 token 的總和。您可以發送長文件而不會遺失上下文。
每組金鑰的速率限制為每分鐘 300 次請求。您可以同時進行 8 個請求。超出這些限制將返回 429 錯誤。
在代碼中優雅地處理錯誤。401 錯誤表示您的無效。402 錯誤表示您沒有信用額度。使用加密貨幣充值以繼續使用。
常見問題
無限制 LLM API 每百萬個 token 的費用是多少?
輸入 token 每百萬計費 $0.15。輸出 token 每百萬計費 $0.50。您只需為實際用量付費,無月費。
我可以將標準 OpenAI SDK 用於連線嗎?
是的。將基礎網址設為 HTTPS://api.apicost.cc/v1。使用模型 id uncensored。所有標準參數(如 temperature 和 stream)的運作方式完全相同。
如果我觸及速率限制會發生什麼事?
您收到 429 錯誤。限制為每分鐘 300 次請求。您可以同時進行 8 個請求。請等待幾秒鐘後再重試。
幾秒鐘內取得金鑰
註冊、複製金鑰,並更新基礎網址。就是這樣。