AR ▾

unfilteredaiapi.comhttps://api.unfilteredaiapi.com/v1

Unfiltered AI

واجهة LLM غير خاضعة للرقابة للمطورين.

Unfiltered AIاحصل على مفتاح API

واجهة خلفية لروبوت محادثة غير خاضع للرقابة مع FastAPI وأحداث الإرسال من الخادم

يعيد هذا الدليل ترحيل مخرجات النموذج المتدفقة عبر خادم FastAPI خلفي صغير. احتفظ بالمفتاح على الخادم، واعزل سجل المحادثة حسب الجلسة، وتعامل مع التدفقات المنقطعة قبل عرض الرد على أنه مكتمل.

واجهة خلفية لروبوت محادثة غير خاضع للرقابة مع FastAPI وأحداث الإرسال من الخادم

نقاط رئيسية

  • تقدم مزودو الاستدلال المخصصون مثل Unfiltered AI سلوكًا غير خاضع للرقابة متسقًا على نموذج واحد، متجنبين العشوائية في توجيه المجمع.
  • توفر المجمعات مثل OpenRouter الوصول إلى نماذج متعددة ولكن قد تختلف في مدى تطبيقها الصارم لمرشحات المحتوى اعتمادًا على إصدار النموذج المحدد.
  • تستخدم Unfiltered AI نموذجًا مفتوح الأوزان على أجهزة مخصصة مع نافذة سياق بحجم 100k، بسعر $0.15/$0.50 لكل مليون رمز.
  • للتوافق الصارم مع NSFW أو لعب الأدوار، تزيل واجهة LLM غير الخاضعة للرقابة الحاجة إلى هندسة الموجّهات المعقدة لتجاوز المرشحات العامة.

النظام كصورة بالكلمات

تخيّل ثلاث صناديق في صف واحد وسهمين بينهما. على اليسار، browser. في الوسط، عملية FastAPI الخاصة بك. على اليمين، نقطة نهاية النموذج model endpoint عند https://api.unfilteredaiapi.com/v1. يحمل السهم الأيسر رسالة مستخدم واحدة ويعيد تدفقاً لأطر نصية صغيرة. يحمل السهم الأيمن محادثة كاملة ويعيد أحداثاً تُرسل من الخادم (SSE). الصندوق الأوسط يؤدي ثلاث مهام فقط: يحتفظ بمفتاح API، يدير حالة المحادثة، ويحوّل تنسيق تدفق واحد إلى آخر.

إبقاء المفتاح في الصندوق الأوسط هو السبب في وجود هذه الطبقة. المفتاح الذي يُرسل إلى المتصفح هو مفتاح يُنشر لكل من يفتح أدوات المطوّر. السبب الثاني هو الحالة: يرسل المتصفح النص الجديد ومعرف الجلسة فقط، بينما يقرر الخادم مقدار التاريخ الذي يجب إعادة تشغيله. يصبح هذا القرار مهماً عندما تطول المحادثات، وهو ما يتناوله مقال الذاكرة بالتفصيل.

يستخدم كل شيء هنا تنسيق chat-completions القياسي مع stream: true، لذا قم بتثبيت fastapi، uvicorn و httpx ولا شيء آخر.

ما يصل على السهم الأيمن

عند تفعيل البث المتدفق، تكون الاستجابة عبارة عن تسلسل من الأسطر. كل سطر مفيد يبدأ بـ data: متبوعاً بقطعة JSON يحتوي choices[0].delta.content فيها على بضع أحرف. السطر الحقيقي الأخير هو data: [DONE]. قبل ذلك مباشرة، تُضاف قطعة استخدام تلقائياً؛ وهي تحمل أعداد الرموز ولا تحتوي على إدخالات choices، لذا يجب على الوسيط اختبار ذلك قبل الفهرسة.

عامل التدفق كثلاث مراحل: بداية هادئة أثناء قراءة النموذج للموجّه الخاص بك، تدفق مستمر للأجزاء، وخاتمة قصيرة مع الاستخدام والعلامة. يعكس الوسيط أدناه هذه المراحل. يقوم بإرسال الأجزاء عند وصولها، ويجمعها في سلسلة نصية واحدة، ويكتب تلك السلسلة إلى الجلسة فقط عندما ينتهي التدفق.

نقطة النهاية الوسيطة

الجزء الأساسي هو مولد غير متزامن يُسمى stream_reply. يستهلك StreamingResponse الخاص بـ FastAPI هذا ويفرغ كل سلسلة يتم إنتاجها إلى العميل. تحيط طريقتان بنفس المولد: POST لـ fetch وGET لـ EventSource.

# app.py
import json
import os
import uuid

import httpx
from fastapi import FastAPI
from fastapi.responses import StreamingResponse
from pydantic import BaseModel

API_URL = "https://api.unfilteredaiapi.com/v1/chat/completions"
SYSTEM = {"role": "system", "content": "You are Corvin, a patient narrator of dark, adult-oriented fiction."}

app = FastAPI()
sessions: dict[str, list[dict]] = {}      # session id -> message list


class Turn(BaseModel):
    session_id: str
    text: str


def sse(data, event=None):
    head = f"event: {event}\n" if event else ""
    return f"{head}data: {json.dumps(data)}\n\n"


async def stream_reply(session_id: str, text: str):
    history = sessions.setdefault(session_id, [])
    history.append({"role": "user", "content": text})
    payload = {
        "model": "uncensored",
        "messages": [SYSTEM] + history,
        "stream": True,
        "max_tokens": 700,
    }
    headers = {"Authorization": f"Bearer {os.environ['API_KEY']}"}
    parts: list[str] = []

    async with httpx.AsyncClient(timeout=httpx.Timeout(10.0, read=120.0)) as client:
        async with client.stream("POST", API_URL, headers=headers, json=payload) as r:
            if r.status_code != 200:
                body = (await r.aread()).decode()
                history.pop()                       # do not keep a turn that got no answer
                yield sse({"status": r.status_code, "body": body}, event="error")
                return
            async for line in r.aiter_lines():
                if not line.startswith("data: "):
                    continue
                raw = line[6:]
                if raw == "[DONE]":
                    break
                chunk = json.loads(raw)
                if not chunk.get("choices"):         # the final usage chunk
                    continue
                piece = chunk["choices"][0]["delta"].get("content")
                if piece:
                    parts.append(piece)
                    yield sse(piece)

    history.append({"role": "assistant", "content": "".join(parts)})
    yield sse({}, event="done")


@app.post("/session")
def new_session():
    return {"session_id": uuid.uuid4().hex}


@app.post("/chat")
async def chat(turn: Turn):
    return StreamingResponse(
        stream_reply(turn.session_id, turn.text),
        media_type="text/event-stream",
        headers={"Cache-Control": "no-cache", "X-Accel-Buffering": "no"},
    )


@app.get("/chat/stream")                              # for EventSource, which only does GET
async def chat_get(session_id: str, text: str):
    return StreamingResponse(
        stream_reply(session_id, text),
        media_type="text/event-stream",
        headers={"Cache-Control": "no-cache", "X-Accel-Buffering": "no"},
    )

اقرأ المولد من الأعلى إلى الأسفل. يضيف رسالة المستخدم أولاً، لذا يراها النموذج. إذا لم يكن حالة الاستجابة من الخادم الأمامي تساوي 200، فإنه يزيل تلك الرسالة مرة أخرى ويصدر حدث error، مما يبقي سجل المحادثة خالياً من الأدوار غير المجابة. عند النجاح، يصدر كل جزء كسلسلة JSON، وهي الطريقة التي تبقى بها الأسطر الجديدة والعلامات الاقتباسية سليمة ضمن الإطار. عندما ينتهي الحلقة، يخزن نص المساعد ويرسل حدث done.

رأسان مهمان. Cache-Control: no-cache يمنع الوسطاء من الاحتفاظ بالتدفق، و X-Accel-Buffering: no يخبر وكيلًا على غرار nginx بتمرير البايتات على الفور.

اختيار متجر الجلسات

القاموس في المثال هو أبسط متجر ممكن: قائمة واحدة من الرسائل لكل معرف جلسة. لديه ثلاثة قيود صادقة. يختفي عند إعادة التشغيل، ولا يتم مشاركته بين عمليات العمل، وينمو بلا حدود. اختر الخطوة التالية وفقًا لأي قيد يؤلم أولاً.

  1. عملية واحدة، جلسات قصيرة: احتفظ بالقاموس، وأضف مسحًا لوقت الحياة يحذف الجلسات التي كانت خاملة لمدة ساعة.
  2. عدة عمال: انقل قائمة الرسائل إلى مخزن قيم رئيسية مشترك، مع معرف الجلسة كمفتاح ومصفوفة JSON كقيمة. قم بتسلسل الوصول لكل جلسة حتى لا تتداخل الطلبات المتزامنة.
  3. تاريخ متين: اكتب كل دور في صف قاعدة بيانات مفتاحها هو الجلسة ورقم التسلسل، وحمل الذيل عند الطلب.

مهما اخترت، أخفِ ذلك خلف وظيفتين، load(session_id) و append(session_id, message)، بحيث لا يتعلم stream_reply أبدًا مكان وجود البيانات. قم أيضًا بتوليد معرفات الجلسات على الخادم، كما تفعل طريقة /session، وعاملها كأسرار غير قابلة للتخمين.

نهاية المتصفح مع fetch

على السهم الأيسر يجب على المتصفح قراءة جسم POST متدفق. يعرض fetchه كتيار قابل للقراءة، ويحول TextDecoderStream البايتات إلى نص. يتم فصل الإطارات بسطر فارغ، لذا يقوم العميل بتخزين النص الوارد ويقطع الإطارات الكاملة.

<!doctype html>
<meta charset="utf-8">
<title>Chat</title>
<div id="log"></div>
<form id="f"><input id="t" autocomplete="off" size="50"><button>Send</button></form>
<script>
const sid = localStorage.getItem("sid") ?? (() => {
  const id = crypto.randomUUID().replaceAll("-", "");
  localStorage.setItem("sid", id);
  return id;
})();
const log = document.getElementById("log");

function line(text) {
  const p = document.createElement("p");
  p.textContent = text;
  log.append(p);
  return p;
}

document.getElementById("f").addEventListener("submit", async (e) => {
  e.preventDefault();
  const box = document.getElementById("t");
  const text = box.value.trim();
  if (!text) return;
  box.value = "";
  line("You: " + text);
  const out = line("");

  const res = await fetch("/chat", {
    method: "POST",
    headers: { "Content-Type": "application/json" },
    body: JSON.stringify({ session_id: sid, text }),
  });
  const reader = res.body.pipeThrough(new TextDecoderStream()).getReader();
  let buf = "";
  while (true) {
    const { value, done } = await reader.read();
    if (done) break;
    buf += value;
    let cut;
    while ((cut = buf.indexOf("\n\n")) >= 0) {
      const frame = buf.slice(0, cut);
      buf = buf.slice(cut + 2);
      if (frame.startsWith("event: done")) continue;
      if (frame.startsWith("event: error")) { out.textContent += " [request failed]"; continue; }
      if (frame.startsWith("data: ")) out.textContent += JSON.parse(frame.slice(6));
    }
  }
});
</script>

تكتب الصفحة باستخدام textContent، وليس innerHTML، لذا لا يمكن لإخراج النموذج حقن علامات في صفحتك. هذه عادة صغيرة ذات عائد كبير عندما ينتج النموذج خيالًا تعسفيًا.

تجربة الوسيط قبل كتابة أي واجهة أمامية

اختبر الصندوقة الوسطى بشكل منفصل أولاً. يزيل عميل الطرف الخلفي المتصفح من المعادلة، لذا فإن أي مشكلة تراها تنتمي إلى الوسيط. يعطل الخيار -N تخزين الإخراج في curl؛ بدونه سترى الرد الكامل يصل مرة واحدة وتستنتج خطأً أن البث المتدفق معطل.

uvicorn app:app --port 8000 &
SID=$(curl -s -X POST localhost:8000/session | python3 -c "import sys,json; print(json.load(sys.stdin)['session_id'])")
curl -N -X POST localhost:8000/chat -H "Content-Type: application/json" \
  -d "{\"session_id\": \"$SID\", \"text\": \"Open with a storm.\"}"

يجب أن ترى أسطرًا تبدأ بـ data: ، تحمل كل منها جزءًا محاطًا بعلامات اقتباس، ثم إطار event: done نهائي. أرسل رسالة ثانية بنفس معرف الجلسة واطلب من الراوي الاستمرار؛ إذا التقط حيث توقف، فإن المخزن يعمل. إذا وصلت جميع الأسطر في دفعة واحدة، فإن شيئًا ما بينك وبين العملية يقوم بالتخزين المؤقت، والشك المعتاد هو وكيل عكسي مع تخزين استجابة مفعّل.

بمجرد نجاح هذا، فإن صفحة المتصفح هي مجرد قراءة للإطارات نفسها. يسرد الصفحة الرئيسية للموقع والمستندات حقول الطلب إذا أردت تمرير خيارات أخذ عينات إضافية عبر الوسيط.

متغير EventSource ومفاضلته

تعامل واجهة EventSource الخاصة بالمتصفح مع التحليل وإعادة الاتصال نيابة عنك، لكنها يمكن أن تصدر طلبات GET فقط. هذا هو السبب في وجود طريقة ثانية في الواجهة الخلفية. التكلفة هي أن نص المستخدم يسافر في عنوان URL، وعناوين URL تميل إلى أن تنتهي في سجلات الوصول على الأجهزة التي تشغلها. للمحادثات الخاصة، يفضل نهج POST وfetch.

const q = new URLSearchParams({ session_id: sid, text: "Describe the harbour at dusk." });
const src = new EventSource("/chat/stream?" + q);
const out = document.getElementById("log").appendChild(document.createElement("p"));

src.onmessage = (ev) => { out.textContent += JSON.parse(ev.data); };
src.addEventListener("done", () => src.close());   // without this, EventSource reconnects
src.addEventListener("error", () => src.close());

انتبه إلى مستمع done. عندما يغلق الخادم تدفق الأحداث، يفترض EventSource خطأ في الشبكة ويعيد الاتصال، مما سيرسل الرسالة نفسها مرة أخرى. أغلق المصدر بنفسك على done وعلى error لكسر تلك الحلقة.

أوضاع الفشل والحدود التي يجب تصميم حولها

امشِ الأسهم مرة أخرى واسأل عما يمكن أن ينكسر في كل منها. على اليمين: يعني 401 مفتاحًا سيئًا، و402 يعني أن الرصيد مستنفد، و403 يعني أن الطلب تم حظره، و429 يعني أنك تجاوزت 300 طلب في الدقيقة على هذا المفتاح، و503 مع upstream_busy يستحق إعادة المحاولة بعد بضع ثوان. تعرض الوسيط كل هذه كحدث error واحد مع الحالة المرفقة، لذا يمكن للمتصفح اختيار رسالة.

العميل الذي ينقطع أثناء البث يلغي المولد، ولا يتم حفظ نص المساعد الجزئي أبدًا. هذا هو السلوك الصحيح عادةً؛ إذا كنت تفضل الاحتفاظ بالردود الجزئية، فاحفظها في كتلة finally.

لتخطيط التكلفة، افترض دورًا يرسل 3000 رمز إدخال ويعيد 600. عند $0.15 و$0.50 لكل مليون، هذا $0.00075 بالإضافة إلى $0.0006، حوالي $0.00135 لكل دور، لذا فإن ألف دور تكلف ما يقرب من $1.35. هذه الأرقام افتراضات؛ تحقق من قطعة الاستخدام للحصول على أرقامك الحقيقية. للمعدلات انظر التسعير، ولمحة عامة عن الخيارات اقرأ مقارنة واجهة روبوت المحادثة.

أسئلة وأجوبة

لماذا لا تستدعي النموذج مباشرة من المتصفح؟

سيكون مفتاح API مرئيًا لكل زائر. وسيحتفظ وسيط صغير بالمفتاح خاصًا ويتيح لك التحكم في السجل وحدّ المعدل.

هل يتضمن البث المتدفق استخدام الرموز؟

نعم. يتم إضافة شريحة استخدام نهائية تلقائيًا، ولا تحتوي على مدخلات اختيارات، لذا تخطَّ الشرائح التي لا تحتوي عليها عند استخراج النص.

متى أستخدم EventSource بدلاً من fetch؟

استخدم EventSource عندما يكون GET مقبولاً وتريد إعادة الاتصال المدمج. استخدم fetch لبيانات POST، مما يبقي النص الخاص خارج عناوين URL.

كم عدد المستخدمين الذين يمكن أن يدعمهم مفتاح واحد؟

الحد هو 300 طلب في الدقيقة لكل مفتاح، مشترك بين جميع مستخدميك، لذا أضف مهلة انتظار لكل مستخدم في الوسيط.

مفتاحك على بُعد نموذج واحد

أنشئ حساباً، انسخ المفتاح، غيّر عنوان URL الأساسي. هذا هو الإعداد الكامل.

احصل على مفتاح APIاقرأ الوثائق