API 成本快速入门:集成 OpenAI 兼容端点
快速入门:集成 OpenAI 兼容端点
获取您的无审查 LLM API 密钥,并在几秒钟内开始发送文本。本指南涵盖了基础 URL、身份验证以及集成我们的 OpenAI 兼容端点所需的精确请求。
前提条件:基础 URL 与认证
在“获取 API 密钥”页面生成密钥。使用 Google 或电子邮件和密码登录,即可立即获取凭证。无需手机号码。
将 base URL 设置为 HTTPS://api.apicost.cc/v1。使用生成的密钥作为 Authorization 头中的 Bearer token。这适用于任何标准的 OpenAI SDK 客户端。
每个账户只需一个活跃密钥。新密钥将替换旧密钥。您的提示词不会用于模型训练。
发送你的第一次请求:基础聊天补全
向 /v1/chat/completions 发送 POST 请求,并将模型设置为 uncensored。在 messages 数组中发送您的用户消息。API 将返回文本响应。
每个请求计入您的 token 使用量。输入 token 每百万成本为 $0.15。输出 token 每百万成本为 $0.50。错误和拒绝免费。
确保您的请求体不超过 8 MB。每次请求的最大输出为 16,000 个令牌。
curl https://api.apicost.cc/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "What is the current price per million tokens?"}]
}'
用于实时 UI 更新的流式响应
通过将 stream 参数设置为 true 启用流式传输。API 返回服务器发送事件 (SSE),而非单个 JSON 对象。
解析每个数据块以实时更新您的 UI。最后一个数据块包含请求的总 token 用量。这有助于您准确追踪成本。
流式传输支持所有标准参数。如果需要,您可以提前取消请求。服务器会立即停止处理。
from openai import OpenAI
client = OpenAI(base_url="https://api.apicost.cc/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)
控制创造性:temperature、top_p 和 seed
调整 temperature 以控制随机性。较低的值使响应更具确定性。较高的值则增加创意。
设置 top_p 以限制核采样范围。使用 seed 以重现特定输出进行调试。这些参数的行为与 OpenAI API 完全相同。
结合这些设置以针对您的用例调整模型。编码任务通常受益于较低的温度。创意写作可能需要更高的值。
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.apicost.cc/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);
结合 JSON 模式和函数调用的结构化输出
将 response_format 设置为 json_object 以获取严格的 JSON 输出。模型将返回有效的 JSON,不带 Markdown 格式。这对于在应用程序中解析数据非常有用。
函数调用允许你在请求中定义工具。模型可以根据用户输入调用这些工具。使用 tool_choice 控制模型何时调用工具。
两项功能均遵循标准 OpenAI 架构。您可以在一个请求中定义多个工具。模型会自动处理路由。
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
了解上下文窗口与令牌限制
上下文窗口为 100,000 个 token。这包括输入和输出 token 的总和。您可以发送长文档而不会丢失上下文。
频率限制为每个密钥每分钟 300 次请求。您可以同时拥有 8 个并发请求。超出这些限制将返回 429 错误。
在代码中优雅地处理错误。401 错误表示您的密钥无效。402 错误表示您没有信用额度。使用加密货币充值以继续服务。
常见问题
无限制 LLM API 每百万 token 的费用是多少?
输入令牌每百万个成本为 $0.15。输出令牌每百万个成本为 $0.50。您只需按实际使用量付费,无月费。
可以使用标准的 OpenAI SDK 进行连接吗?
是的。将基础 URL 设置为 HTTPS://api.apicost.cc/v1。使用模型 id uncensored。temperature 和 stream 等所有标准参数均完全相同。
如果我触及速率限制会怎样?
您收到 429 错误。限制为每分钟 300 次请求。您可以有 8 个并发请求。等待几秒后重试。
几秒获取您的密钥
注册,复制密钥,并更新基础 URL。就是这样。