TR ▾

unfilteredaiapi.comhttps://api.unfilteredaiapi.com/v1

Unfiltered AI

Geliştiriciler için ham, sansürsüz LLM API'si.

Unfiltered AIAPI anahtarı al

Node JS AI API: Akış, Araçlar ve Express'te Hatalar

Bu node.js AI API öğreticisi, boş bir klasörden sohbet yanıtlarını akış olarak ileten, bir aracıyı çağıran ve hız limiti hatalarını işleyen bir Express rotasına kadar götürür. Resmî OpenAI paketinde yalnızca base URL ve anahtarı değiştirirsiniz, ardından uncensored modelini gönderirsiniz.

Bir sunucu rafına bağlı altıgen dişli, tarayıcı penceresine akış yapan ışık parçacıkları

Temel noktalar

  • openai paketini yükleyin ve baseURL'yi https://api.unfilteredaiapi.com/v1 olarak ayarlayın.
  • stream: true ile akış yapın ve parçaları sunucu tarafından gönderilen olaylar (server-sent events) olarak tarayıcıya iletin.
  • Aracı çağrıları tool_calls olarak gelir; sonuçları role: tool ile döndürün.
  • 429, rate_limited, concurrency veya geçici aşırı yüklenme durumlarını gösterir; Retry-After süresinden sonra yeniden deneyin.

Kurulum: yükleyin ve ilk isteği gönderin

Node 18 veya daha yenisi gerekir. Bir proje oluşturun, SDK'yı ve Express'i yükleyin ve ES modüllerine geçiş yapın.

mkdir ai-node && cd ai-node
npm init -y
npm pkg set type=module
npm install openai express
# base URL: https://api.unfilteredaiapi.com/v1   model: uncensored
export AI_API_KEY="YOUR_KEY"

Bir anahtar alın API anahtarı sayfasından. Yeni hesaplar tek tıkla 7 gün geçerli $0,50 deneme kredisi talep edebilir. Ardından client.js oluşturun:

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.unfilteredaiapi.com/v1",
  apiKey: process.env.AI_API_KEY,
});

const res = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Give me three names for a tavern keeper." }],
});
console.log(res.choices[0].message.content);

node client.js ile çalıştırın. Aşağıdaki her kod parçası, kendi başına çalışması için istemciyi yeniden tanımlar. Zaten OpenAI paketini kullanıyorsanız, bu tüm geçiştir: farklı bir baseURL, anahtarınız ve model ID. Hizmet OpenAI uyumludur, yalnızca metin içerir ve 100.000 token bağlam penceresine sahiptir. Desteklenen tüm yöntemler için dokümantasyon sayfasına bakın.

Yanıtı akış olarak al

Akış, tokenlar üretildikça gönderilir, böylece kullanıcılar metni hemen görür. stream: true ayarlayın ve parçalar üzerinden yineleyin:

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.unfilteredaiapi.com/v1",
  apiKey: process.env.AI_API_KEY,
});

const stream = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Describe a rainy harbor town." }],
  stream: true,
  stream_options: { include_usage: true },
});

for await (const chunk of stream) {
  const delta = chunk.choices[0]?.delta?.content;
  if (delta) process.stdout.write(delta);
  if (chunk.usage) console.log("\nusage:", chunk.usage);
}

Kullanım bilgisi son parçada gelir; bu, istek başına gerçek token sayılarını günlüğe kaydetmenizi sağlar. Bir gerçeği akılda tutun: akışlı bir istek, akış bitene kadar eşzamanlılık slotunu işgal eder. İstemci bağlantıyı keserse, slotun hızlıca boşalması için üst akış çağrısını iptal edin.

Tarayıcıya akış yapan bir Express rotası

İşte bir POST /chat rotasına sahip küçük bir sunucu. Akışı sunucu gönderilen olaylar olarak iletir ve tarayıcı bağlantıyı kapattığında üst akış isteğini iptal eder.

import express from "express";
import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.unfilteredaiapi.com/v1",
  apiKey: process.env.AI_API_KEY,
});

const app = express();
app.use(express.json({ limit: "1mb" }));

app.post("/chat", async (req, res) => {
  const { messages } = req.body;
  if (Array.isArray(messages) === false) return res.status(400).json({ error: "messages required" });

  res.set({
    "Content-Type": "text/event-stream",
    "Cache-Control": "no-cache",
    Connection: "keep-alive",
  });

  const controller = new AbortController();
  req.on("close", () => controller.abort());

  try {
    const stream = await client.chat.completions.create(
      { model: "uncensored", messages, stream: true },
      { signal: controller.signal }
    );
    for await (const chunk of stream) {
      const delta = chunk.choices[0]?.delta?.content;
      if (delta) res.write("data: " + JSON.stringify({ delta }) + "\n\n");
    }
    res.write("data: [DONE]\n\n");
  } catch (err) {
    res.write("data: " + JSON.stringify({ error: err.status || 500 }) + "\n\n");
  } finally {
    res.end();
  }
});

app.listen(3000, () => console.log("listening on 3000"));

Anahtarı tarayıcı koduna koymayın. Yukarıdaki rota onu sunucuda tutar, ki orada olması gerekir. Bu desen, FastAPI sohbet botu arka ucu makalesinde Python'da da gösterilmiştir.

Bir aracı çağırın

Araç çağırma OpenAI formatını izler: tools içinde işlevleri tanımlarsınız, model tool_calls ile yanıt verir, işlevi çalıştırırsınız ve sonucu role: "tool" ile bir mesaj olarak geri gönderirsiniz.

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.unfilteredaiapi.com/v1",
  apiKey: process.env.AI_API_KEY,
});

const tools = [{
  type: "function",
  function: {
    name: "roll_dice",
    description: "Roll a die with the given number of sides",
    parameters: {
      type: "object",
      properties: { sides: { type: "integer" } },
      required: ["sides"],
    },
  },
}];

const messages = [{ role: "user", content: "Roll a d20 for my attack." }];
const first = await client.chat.completions.create({
  model: "uncensored", messages, tools, tool_choice: "auto",
});

const msg = first.choices[0].message;
if (msg.tool_calls) {
  messages.push(msg);
  for (const call of msg.tool_calls) {
    const { sides } = JSON.parse(call.function.arguments);
    const result = 1 + Math.floor(Math.random() * sides);
    messages.push({ role: "tool", tool_call_id: call.id, content: String(result) });
  }
  const second = await client.chat.completions.create({ model: "uncensored", messages, tools });
  console.log(second.choices[0].message.content);
}

Gerçek kodda her zaman arguments değerini bir try bloğu içinde ayrıştırın; modeller bazen hatalı JSON döndürebilir. Araçlar olmadan yapılandırılmış çıktı için response_format: { type: "json_object" } ayarlayın ve isteminizde JSON'dan bahsedin. Zar veya envanter işlevlerini çağıran oyun sahneleri oyun NPC'leri oluşturma ve interaktif kurgu sayfasında ele alınır.

Hataları ve hız limitlerini yönetin

API üç durumda HTTP 429 döndürür. rate_limited hata kodu, dakika başına çok fazla istek anlamına gelir: tam anahtar için 300, deneme anahtarı için 60. concurrency kodu, aynı anda çok fazla istek anlamına gelir: tam anahtar için 8, deneme anahtarı için 2. Geçici aşırı yüklenmede de Retry-After: 5 başlığıyla 429 alırsınız. SDK, fırlatılan hatada durumu ortaya çıkarır, bu nedenle küçük bir sarmalayıcı üç durumu da işler:

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.unfilteredaiapi.com/v1",
  apiKey: process.env.AI_API_KEY,
});

const sleep = (ms) => new Promise((r) => setTimeout(r, ms));

export async function chatWithRetry(params, tries = 4) {
  for (let i = 0; i < tries; i++) {
    try {
      return await client.chat.completions.create({ model: "uncensored", ...params });
    } catch (err) {
      if (err.status === 429 && i < tries - 1) {
        const wait = Number(err.headers?.["retry-after"]) || 2 ** i;
        await sleep(wait * 1000);
        continue;
      }
      throw err;
    }
  }
}

Sarmalayıcı, sunucunun istediği gecikmeyi bekler ve üstel geri çekilmeye geçer. OpenAI paketinin bazı hataları kendi başına da yeniden denediğini unutmayın; bunu kontrol etmek istiyorsanız istemcide maxRetries ayarlayın. Yanlış anahtar için 401 gibi diğer durumlar yeniden denenmemelidir. Limitlere daha derinlemesine bakmak için FAQ sayfasına bakın.

Rotayı çalıştırın ve test edin

Sunucuyu node server.js ile başlatın ve ikinci bir terminalden test edin. -N bayrağı, olayların tek tek geldiğini görmeniz için curl arabelleğe almayı devre dışı bırakır:

# the server calls https://api.unfilteredaiapi.com/v1 with model uncensored
curl -N http://localhost:3000/chat   -H "Content-Type: application/json"   -d '{"messages":[{"role":"user","content":"Write a two-line riddle."}]}'

Tarayıcıda, fetch ve bir okuyucu ile veya küçük bir SSE yardımcı kütüphanesi kullanarak akışı okuyun. Rota bir POST olduğu için, yerleşik EventSource nesnesi uygun değildir, bu nedenle fetch kullanın ve parçaları kendiniz ayrıştırın.

Üretim alışkanlıkları

  • Anahtarı ortam değişkeninde veya bir gizli depolamada tutun, depo içinde asla değil.
  • İstek gövdesini sınırlayın. API 8 MB'a kadar kabul eder, ancak kendi rotanız çok daha azını kabul etmelidir.
  • Gönderdiğiniz geçmişi sınırlayın. Eski dönüşleri, size para maliyeti oluşturmadan veya 100.000 token penceresini doldurmadan önce kısaltın.
  • Zaten 8 akış açıkken ek işi kuyruğa alın veya reddedin, böylece API'nin kullanıcılarınıza 429 döndürmesine izin vermeyin.
  • X-Request-Id yanıt başlığını günlüğe kaydedin, böylece destek ekibi tek bir isteği izleyebilir.

Bakiyenizi ve maliyetinizi kontrol edin

Her yanıt bir X-Balance-USD başlığı taşır ve GET /v1/balance bakiyeyi doğrudan döndürür. Fiyatlandırma 1M girdi token başı $0.15 ve 1M çıktı token başı $0.50'dir; ön ödemeli krediden tahsil edilir ve başarısız veya reddedilen istekler ücretsizdir. 800 girdi ve 250 çıktı token içeren bir sohbet dönüşü $0.000245 tutarındadır, bu nedenle 10.000 dönüş $2.45 tutarındadır. Her yanıtın usage değerini günlüğe kaydedin ve faturanızı birkaç kuruş hassasiyetle tahmin edebilirsiniz. fiyatlandırma sayfası $20 ile $500 arasında bakiye yükleme işlemlerini listeler.

Sorular ve cevaplar

Hangi npm paketini kullanmalıyım?

Resmi openai paketi çalışır. baseURL'yi https://api.unfilteredaiapi.com/v1 olarak ayarlayın, anahtarınızı geçin ve uncensored model kimliğini kullanın.

Node'dan yanıtları akışa alabilir miyim?

Evet. stream: true parametresini geçin ve for await ile yineleyin. Token sayılarını son parçada almak için include_usage içeren stream_options ekleyin.

API fonksiyon çağırma destekliyor mu?

Evet. tools ve tool_choice parametrelerini gönderin, yanıtın tool_calls alanını okuyun ve sonuçları role: tool değeriyle mesaj olarak döndürün.

Sunucum HTTP 429 durumunda ne yapmalı?

Varsa Retry-After değerini bekleyin, yoksa üstel geri çekilme yapın, ardından birkaç kez yeniden deneyin. Hata kodu concurrency ise eşzamanlı istekleri azaltın.

Anahtarınız tek bir formun uzağında

Bir hesap oluşturun, anahtarı kopyalayın ve base URL'yi değiştirin. Kurulum bu kadar basit.

API anahtarı alDokümantasyonu oku