Hướng dẫn nhanh: Tích hợp với điểm cuối tương thích OpenAI

Điều kiện tiên quyết: Base URL và xác thực

Bắt đầu bằng cách tạo khóa trên trang Lấy khóa API. Đăng nhập bằng Google hoặc email và mật khẩu để nhận thông tin xác thực của bạn ngay lập tức. Không cần số điện thoại.

Thiết lập URL cơ sở của bạn thành HTTPS://api.apicost.cc/v1. Sử dụng khóa đã tạo làm token Bearer trong tiêu đề Authorization. Điều này hoạt động với bất kỳ client SDK OpenAI tiêu chuẩn nào.

Bạn chỉ cần một khóa hoạt động cho mỗi tài khoản. Khóa mới sẽ thay thế khóa cũ. Các câu lệnh của bạn không được sử dụng để huấn luyện mô hình.

Gửi yêu cầu đầu tiên của bạn: hoàn thành trò chuyện đơn giản

Gửi yêu cầu POST đến /v1/chat/completions với mô hình được đặt là uncensored. Gửi tin nhắn của người dùng trong mảng messages. API trả về phản hồi dạng văn bản.

Mỗi yêu cầu được tính vào mức sử dụng token của bạn. Token đầu vào tốn $0.15 cho mỗi triệu. Token đầu ra tốn $0.50 cho mỗi triệu. Lỗi và từ chối miễn phí.

Đảm bảo thân yêu cầu của bạn không vượt quá 8 MB. Đầu ra tối đa là 16,000 token mỗi yêu cầu.

Copycurl https://api.apicost.cc/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the current price per million tokens?"}]
  }'

Phản ứng streaming để cập nhật giao diện người dùng theo thời gian thực

Bật chế độ phát trực tiếp bằng cách đặt tham số stream thành true. API trả về sự kiện gửi qua máy chủ (SSE) thay vì một đối tượng JSON đơn lẻ.

Phân tích từng chunk để cập nhật giao diện người dùng của bạn theo thời gian thực. Chunk cuối cùng chứa tổng số token sử dụng cho yêu cầu. Điều này giúp bạn theo dõi chi phí một cách chính xác.

Streaming hoạt động với tất cả các tham số tiêu chuẩn. Bạn có thể hủy yêu cầu sớm nếu cần. Máy chủ ngừng xử lý ngay lập tức.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.apicost.cc/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Kiểm soát sự sáng tạo: temperature, top_p và seed

Điều chỉnh nhiệt độ để kiểm soát tính ngẫu nhiên. Giá trị thấp hơn làm cho phản hồi mang tính xác định hơn. Giá trị cao hơn tăng cường tính sáng tạo.

Đặt top_p để giới hạn phạm vi lấy mẫu nhân. Sử dụng seed để tái lập các đầu ra cụ thể cho việc gỡ lỗi. Các tham số này hoạt động chính xác như API OpenAI.

Kết hợp các cài đặt này để tinh chỉnh mô hình cho trường hợp sử dụng của bạn. Các nhiệm vụ lập trình thường được hưởng lợi từ nhiệt độ thấp hơn. Viết sáng tạo có thể cần các giá trị cao hơn.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.apicost.cc/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Đầu ra có cấu trúc với chế độ JSON và gọi hàm

Sử dụng response_format được đặt thành json_object cho các đầu ra JSON nghiêm ngặt. Mô hình sẽ trả về JSON hợp lệ mà không có định dạng markdown. Điều này hữu ích cho việc phân tích dữ liệu trong ứng dụng của bạn.

Gọi hàm cho phép bạn định nghĩa các công cụ trong yêu cầu của mình. Mô hình có thể gọi các công cụ này dựa trên đầu vào của người dùng. Sử dụng tool_choice để kiểm soát khi nào mô hình gọi một công cụ.

Cả hai tính năng đều tuân theo lược đồ OpenAI tiêu chuẩn. Bạn có thể xác định nhiều công cụ trong một yêu cầu. Mô hình xử lý việc định tuyến tự động.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Hiểu về cửa sổ ngữ cảnh và giới hạn token

Cửa sổ ngữ cảnh là 100,000 token. Điều này bao gồm cả token đầu vào và đầu ra kết hợp. Bạn có thể gửi các tài liệu dài mà không bị mất ngữ cảnh.

Giới hạn tốc độ là 300 yêu cầu mỗi phút mỗi khóa. Bạn có thể thực hiện 8 yêu cầu đồng thời cùng lúc. Vượt quá giới hạn này sẽ trả về lỗi 429.

Xử lý lỗi một cách tinh tế trong mã của bạn. Lỗi 401 có nghĩa là khóa của bạn không hợp lệ. Lỗi 402 có nghĩa là bạn không có tín dụng. Nạp thêm bằng tiền điện tử để tiếp tục.