VI ▾

unfilteredaiapi.comhttps://api.unfilteredaiapi.com/v1

Unfiltered AI

API LLM thô, không kiểm duyệt dành cho nhà phát triển.

Unfiltered AILấy khóa API

API AI Node JS: Truyền phát, Công cụ và Lỗi trong Express

Hướng dẫn Node JS AI API này đưa bạn từ một thư mục rỗng đến một route Express truyền phát phản hồi chat, gọi công cụ và xử lý lỗi giới hạn tốc độ. Bạn chỉ cần thay đổi base URL và khóa trong gói OpenAI chính thức, sau đó gửi model uncensored.

Bánh răng lục giác liên kết với tủ máy chủ, truyền phát các hạt ánh sáng đến cửa sổ trình duyệt

Điểm chính

  • Cài đặt gói openai và đặt baseURL thành https://api.unfilteredaiapi.com/v1.
  • Truyền phát với stream: true và chuyển tiếp các chunk đến trình duyệt dưới dạng server-sent events.
  • Các lệnh gọi công cụ đến dưới dạng tool_calls; trả kết quả với role tool.
  • 429 có nghĩa là rate_limited, concurrency hoặc quá tải tạm thời; hãy thử lại sau độ trễ Retry-After.

Thiết lập: cài đặt và gửi yêu cầu đầu tiên

Bạn cần Node 18 trở lên. Tạo dự án, cài đặt SDK và Express, và chuyển sang ES modules.

mkdir ai-node && cd ai-node
npm init -y
npm pkg set type=module
npm install openai express
# base URL: https://api.unfilteredaiapi.com/v1   model: uncensored
export AI_API_KEY="YOUR_KEY"

Lấy khóa từ trang khóa API. Tài khoản mới có thể nhận $0.50 tín dụng dùng thử miễn phí chỉ với một cú nhấp chuột, có hiệu lực trong 7 ngày. Sau đó tạo client.js:

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.unfilteredaiapi.com/v1",
  apiKey: process.env.AI_API_KEY,
});

const res = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Give me three names for a tavern keeper." }],
});
console.log(res.choices[0].message.content);

Chạy nó với node client.js. Mỗi đoạn mã dưới đây định nghĩa lại client để nó có thể chạy độc lập. Đó là toàn bộ quá trình di chuyển nếu bạn đã sử dụng gói OpenAI: một baseURL khác, khóa của bạn và model ID. Dịch vụ tương thích OpenAI và chỉ hỗ trợ văn bản, với cửa sổ ngữ cảnh 100,000 token. Xem tài liệu để biết mọi phương thức được hỗ trợ.

Nhận phản hồi qua streaming

Truyền phát gửi token ngay khi chúng được tạo, vì vậy người dùng thấy văn bản ngay lập tức. Đặt stream: true và lặp qua các chunk:

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.unfilteredaiapi.com/v1",
  apiKey: process.env.AI_API_KEY,
});

const stream = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Describe a rainy harbor town." }],
  stream: true,
  stream_options: { include_usage: true },
});

for await (const chunk of stream) {
  const delta = chunk.choices[0]?.delta?.content;
  if (delta) process.stdout.write(delta);
  if (chunk.usage) console.log("\nusage:", chunk.usage);
}

Dữ liệu sử dụng đến ở chunk cuối, cho phép bạn ghi lại số token thực tế cho mỗi yêu cầu. Hãy nhớ một sự thật: một yêu cầu truyền phát chiếm slot concurrency của nó cho đến khi luồng kết thúc. Nếu client ngắt kết nối, hãy hủy lệnh gọi upstream để giải phóng slot nhanh chóng.

Một route Express truyền phát đến trình duyệt

Đây là một máy chủ nhỏ với route POST /chat. Nó chuyển tiếp luồng dưới dạng server-sent events và hủy yêu cầu upstream khi trình duyệt đóng kết nối.

import express from "express";
import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.unfilteredaiapi.com/v1",
  apiKey: process.env.AI_API_KEY,
});

const app = express();
app.use(express.json({ limit: "1mb" }));

app.post("/chat", async (req, res) => {
  const { messages } = req.body;
  if (Array.isArray(messages) === false) return res.status(400).json({ error: "messages required" });

  res.set({
    "Content-Type": "text/event-stream",
    "Cache-Control": "no-cache",
    Connection: "keep-alive",
  });

  const controller = new AbortController();
  req.on("close", () => controller.abort());

  try {
    const stream = await client.chat.completions.create(
      { model: "uncensored", messages, stream: true },
      { signal: controller.signal }
    );
    for await (const chunk of stream) {
      const delta = chunk.choices[0]?.delta?.content;
      if (delta) res.write("data: " + JSON.stringify({ delta }) + "\n\n");
    }
    res.write("data: [DONE]\n\n");
  } catch (err) {
    res.write("data: " + JSON.stringify({ error: err.status || 500 }) + "\n\n");
  } finally {
    res.end();
  }
});

app.listen(3000, () => console.log("listening on 3000"));

Không bao giờ đặt khóa trong mã trình duyệt. Route ở trên giữ khóa trên máy chủ, nơi nó thuộc về. Mẫu tương tự cũng được hiển thị trong Python trong bài viết FastAPI chatbot backend.

Gọi một công cụ

Gọi hàm tuân theo định dạng OpenAI: bạn mô tả các hàm trong tools, mô hình trả về tool_calls, bạn thực thi hàm và gửi kết quả lại dưới dạng tin nhắn với role: "tool".

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.unfilteredaiapi.com/v1",
  apiKey: process.env.AI_API_KEY,
});

const tools = [{
  type: "function",
  function: {
    name: "roll_dice",
    description: "Roll a die with the given number of sides",
    parameters: {
      type: "object",
      properties: { sides: { type: "integer" } },
      required: ["sides"],
    },
  },
}];

const messages = [{ role: "user", content: "Roll a d20 for my attack." }];
const first = await client.chat.completions.create({
  model: "uncensored", messages, tools, tool_choice: "auto",
});

const msg = first.choices[0].message;
if (msg.tool_calls) {
  messages.push(msg);
  for (const call of msg.tool_calls) {
    const { sides } = JSON.parse(call.function.arguments);
    const result = 1 + Math.floor(Math.random() * sides);
    messages.push({ role: "tool", tool_call_id: call.id, content: String(result) });
  }
  const second = await client.chat.completions.create({ model: "uncensored", messages, tools });
  console.log(second.choices[0].message.content);
}

Luôn phân tích arguments trong một khối try trong mã thực tế, vì các mô hình đôi khi có thể trả về JSON không hợp lệ. Để xuất có cấu trúc mà không cần công cụ, đặt response_format: { type: "json_object" } và đề cập đến JSON trong prompt của bạn. Các cảnh trò chơi gọi các hàm xúc xắc hoặc kho đồ được đề cập trong xây dựng NPC và văn học tương tác.

Xử lý lỗi và giới hạn tốc độ

API trả về HTTP 429 trong ba tình huống. Mã lỗi rate_limited có nghĩa là quá nhiều yêu cầu mỗi phút: 300 cho khóa đầy đủ, 60 cho khóa dùng thử. Mã concurrency có nghĩa là quá nhiều cùng lúc: 8 cho khóa đầy đủ, 2 cho khóa dùng thử. Khi quá tải tạm thời, bạn cũng nhận được 429 với tiêu đề Retry-After: 5. SDK hiển thị trạng thái trên lỗi được ném ra, vì vậy một trình bao bọc nhỏ xử lý cả ba:

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.unfilteredaiapi.com/v1",
  apiKey: process.env.AI_API_KEY,
});

const sleep = (ms) => new Promise((r) => setTimeout(r, ms));

export async function chatWithRetry(params, tries = 4) {
  for (let i = 0; i < tries; i++) {
    try {
      return await client.chat.completions.create({ model: "uncensored", ...params });
    } catch (err) {
      if (err.status === 429 && i < tries - 1) {
        const wait = Number(err.headers?.["retry-after"]) || 2 ** i;
        await sleep(wait * 1000);
        continue;
      }
      throw err;
    }
  }
}

Trình bao bọc chờ độ trễ mà máy chủ yêu cầu và chuyển sang giảm tần suất theo cấp số nhân. Lưu ý rằng gói OpenAI cũng tự động thử lại một số lỗi; đặt maxRetries trên client nếu bạn muốn kiểm soát điều này. Các trạng thái khác, chẳng hạn như 401 cho khóa không hợp lệ, không nên thử lại. Tìm hiểu sâu hơn về các giới hạn trong FAQ.

Chạy và kiểm tra route

Khởi động máy chủ với node server.js và kiểm tra nó từ một terminal thứ hai. Cờ -N tắt bộ đệm curl để bạn thấy các sự kiện đến từng cái một:

# the server calls https://api.unfilteredaiapi.com/v1 with model uncensored
curl -N http://localhost:3000/chat   -H "Content-Type: application/json"   -d '{"messages":[{"role":"user","content":"Write a two-line riddle."}]}'

Trong trình duyệt, đọc luồng với fetch và một trình đọc, hoặc với một thư viện trợ giúp SSE nhỏ. Vì route là POST, đối tượng EventSource bản địa không phù hợp, vì vậy hãy sử dụng fetch và tự giải mã các chunk.

Thói quen khi đưa vào sản xuất

  • Giữ khóa trong biến môi trường hoặc kho bí mật, không bao giờ trong kho lưu trữ mã nguồn.
  • Giới hạn thân yêu cầu. API chấp nhận tối đa 8 MB, nhưng route của riêng bạn nên chấp nhận ít hơn nhiều.
  • Giới hạn lịch sử bạn gửi. Cắt bớt các lượt cũ trước khi chúng tốn tiền của bạn hoặc lấp đầy cửa sổ 100.000 token.
  • Xếp hàng hoặc từ chối công việc bổ sung khi bạn đã có 8 luồng đang mở, thay vì để API trả về 429 cho người dùng của bạn.
  • Ghi lại tiêu đề phản hồi X-Request-Id, để hỗ trợ có thể theo dõi một yêu cầu đơn lẻ.

Kiểm tra số dư và chi phí

Mỗi phản hồi đều có tiêu đề X-Balance-USD, và GET /v1/balance trả về số dư trực tiếp. Giá là $0.15 cho mỗi 1M token đầu vào và $0.50 cho mỗi 1M token đầu ra, được tính từ tín dụng trả trước, và các yêu cầu thất bại hoặc bị từ chối đều miễn phí. Một lượt chat với 800 token đầu vào và 250 token đầu ra tốn $0.000245, vì vậy 10.000 lượt tốn $2.45. Ghi lại usage từ mỗi phản hồi và bạn có thể dự đoán hóa đơn của mình trong vòng vài cent. trang giá liệt kê các khoản nạp tiền từ $20 đến $500.

Hỏi đáp

Tôi nên dùng gói npm nào?

Gói openai chính thức hoạt động. Đặt baseURL thành https://api.unfilteredaiapi.com/v1, truyền khóa của bạn và sử dụng model ID uncensored.

Tôi có thể truyền phát phản hồi từ Node không?

Có. Truyền stream: true và lặp qua kết quả bằng for await. Thêm stream_options với include_usage để lấy số token trong chunk cuối.

API có hỗ trợ gọi hàm không?

Có. Gửi tools và tool_choice, đọc tool_calls từ phản hồi và trả kết quả dưới dạng messages với role tool.

Máy chủ của tôi nên làm gì khi gặp HTTP 429?

Chờ giá trị Retry-After nếu có, nếu không thì giảm tần suất theo cấp số nhân, sau đó thử lại vài lần. Giảm số yêu cầu đồng thời nếu mã lỗi là concurrency.

Khóa của bạn chỉ cách một biểu mẫu

Tạo tài khoản, sao chép khóa, thay đổi URL cơ sở. Đó là toàn bộ thiết lập.

Lấy khóa APIĐọc tài liệu