DE ▾

unfilteredaiapi.comhttps://api.unfilteredaiapi.com/v1

Unfiltered AI

Rohe, unzensierte LLM-API für Entwickler.

Unfiltered AIAPI-Schlüssel erhalten

Leere Antwort der LLM-API? Ursachen und Lösungen

Wenn ein Fehler wegen einer leeren LLM-API-Antwort auftritt, hat der Server meist geantwortet, und die leere Zeichenkette stammt aus der Art, wie die Antwort gelesen wird. Hier ist eine Checkliste, sortiert nach der Häufigkeit der Ursachen.

Daten, die durch ein Glasrohr zu einer leeren Sprechblase fließen, mit einer Lupe, die einen verborgenen Zweig aufdeckt

Wichtige Punkte

  • Gib zuerst das Roh-JSON aus. Die meisten leeren Antworten sind ein Parsing-Problem, kein Ausfall.
  • Prüfe finish_reason: length, stop und tool_calls erklären jeweils ein leeres content-Feld.
  • Lies in Streams delta.content defensiv aus und überspringe Chunks, wenn keine Choices vorhanden sind.
  • Ein 429-Fehler oder ein Proxy, der SSE puffert, kann in manchen Clients wie eine leere Antwort aussehen.

Beginne mit der Betrachtung der Rohantwort

Bevor du Einstellungen änderst, erfasse genau, was zurückkam. Wrapper-Bibliotheken verbergen die Ursache: Ein nacktes print(response.choices[0].message.content) zeigt None oder eine leere Zeichenkette an, egal ob der Körper leer war, einen Tool-Aufruf enthielt, an einer Längenbegrenzung endete oder nie ankam.

Verwende curl, damit kein Client-Code im Weg ist, und füge die Header mit -i hinzu:

curl -i https://api.unfilteredaiapi.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Say hello in five words."}]
  }'

Lies drei Dinge im Ergebnis. Erstens die Statuszeile: 200 bedeutet, dass eine Completion erzeugt wurde, 429 bedeutet, dass ein Limit erreicht wurde, ein Authentifizierungsfehler wie 401 deutet meist auf den Schlüssel hin. Zweitens choices[0].finish_reason. Drittens die Antwort-Header, insbesondere X-Request-Id (bewahre ihn auf, wenn du Support kontaktierst) und X-Balance-USD, das anzeigt, ob das Konto noch Guthaben hat. Wenn dieser curl-Aufruf Text zurückgibt, funktioniert der Dienst und das Problem liegt bei deinem Client. Wenn er einen Fehler-Body zurückgibt, hast du die Ursache bereits.

Ursache 1: Die Nachricht enthält einen Tool-Aufruf, keinen Text

Wenn du tools übergibst und das Modell sich entscheidet, eines aufzurufen, hat die Assistant-Nachricht tool_calls und ihr content ist null oder leer. Code, der nur content liest, sieht eine leere Antwort. Die Lösung ist, zuerst auf Tool-Aufrufe zu prüfen, die Funktion auszuführen, das Ergebnis als Nachricht mit role: "tool" anzuhängen und die API erneut aufzurufen.

from openai import OpenAI

client = OpenAI(base_url="https://api.unfilteredaiapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "What is the weather in Oslo?"}],
    tools=[{
        "type": "function",
        "function": {
            "name": "get_weather",
            "description": "Get current weather for a city",
            "parameters": {
                "type": "object",
                "properties": {"city": {"type": "string"}},
                "required": ["city"],
            },
        },
    }],
)

msg = resp.choices[0].message
if msg.tool_calls:
    print("tool call:", msg.tool_calls[0].function.name, msg.tool_calls[0].function.arguments)
else:
    print(msg.content)

Wenn du keine Tools anbieten wolltest, entferne die Felder tools und tool_choice. Eine verbliebene Tool-Definition aus einem früheren Experiment ist ein klassischer Grund für leeren Text.

Ursache 2: Die Antwort wurde abgeschnitten oder begann nie

finish_reason erklärt den Großteil des Rests.

  • length. Die Completion hat eine Token-Grenze (max_tokens) erreicht. Du hast möglicherweise max_tokens sehr niedrig gesetzt, z. B. 1 oder 10. Der Parameter ist hier optional, da die Completion das nutzen kann, was vom 100.000-Token-Fenster übrig ist. Die einfachste Lösung ist, ihn zu entfernen. Wenn du eine Grenze benötigst, setze sie mit ausreichend Puffer.
  • stop. Das Modell hat normal abgeschlossen oder eine deiner stop-Sequenzen erzeugt. Eine Stop-Sequenz wie ein Zeilenumbruch stoppt die Antwort bei der ersten Zeilenumbruchstelle, was zu nichts führen kann, wenn das Modell mit einer leeren Zeile beginnt. Entferne oder lockere die Sequenz.
  • tool_calls. Siehe den vorherigen Abschnitt.

Kontextüberlauf ist das andere Längenproblem. Das Kontextfenster umfasst 100.000 Token, gezählt aus Prompt und Output zusammen. Wenn ein Chat-Verlauf fast den gesamten Speicher gefüllt hat, bleibt kaum noch Platz für die Antwort. Kürze ältere Nachrichten oder fasse sie zusammen. Die Seite zu Gesprächsspeicher und dem langen Kontextfenster zeigt Möglichkeiten auf, den Verlauf im Griff zu behalten. Auch der Request-Body darf 8 MB nicht überschreiten.

Eine weitere kleine Falle: Der JSON-Modus. Bei auf response_format auf json_object gesetztem Wert, füge das Wort JSON in deine Anweisungen ein und beschreibe die gewünschte Struktur. Ein vager Prompt plus JSON-Modus erzeugt dünne oder triviale Ausgabe, die leer aussieht, sobald du einen Schlüssel daraus extrahierst.

Ursache 3: Streaming wird falsch gelesen

Streaming über SSE sendet viele kleine Chunks. Nicht jeder Chunk enthält Text. Der erste Chunk hat oft nur die Rolle, der letzte Content-Chunk enthält einen finish_reason mit einem leeren Delta, und der finale Chunk, der die Nutzung meldet, kann mit einer leeren choices-Liste ankommen. Code, der bei jedem Chunk auf choices[0] zugreift, stürzt ab, und Code, der einen Chunk ohne Text als ganze Antwort behandelt, gibt nichts aus.

from openai import OpenAI

client = OpenAI(base_url="https://api.unfilteredaiapi.com/v1", api_key="YOUR_KEY")

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Write two sentences about rain."}],
    stream=True,
)

parts = []
for chunk in stream:
    if not chunk.choices:
        continue
    delta = chunk.choices[0].delta
    if delta.content:
        parts.append(delta.content)

text = "".join(parts)
print(text if text else "[no content received]")

Zwei weitere Umgebungsprobleme sehen ebenfalls aus wie leere Streams. Ein Reverse-Proxy oder ein CDN, das Antworten puffert, hält alle Chunks bis zum Ende zurück, sodass der Browser lange nichts sieht und dann alles auf einmal, oder ein Timeout tritt zuerst ein. Schalte die Antwortpufferung für den Streaming-Pfad in deinem Proxy aus. Und ein Stream belegt seinen Concurrency-Slot, bis er endet, sodass verwaiste Streams (ein geschlossenes Tab, ein fehlendes close()) nach und nach deine 8 Slots aufbrauchen. Die nächste Anfrage erhält dann eine 429 statt Text. Ein vollständiges Server-Beispiel findest du im FastAPI-Backend mit SSE-Streaming.

Ursache 4: Ein Fehler, den dein Client verschluckt hat

Einige HTTP-Wrapper geben bei einem Nicht-200-Status eine leere Zeichenkette zurück, statt zu werfen. Protokolliere den Statuscode und den Körper bei jedem Fehler. Die relevanten Fälle:

Status oder CodeBedeutungWas tun
429, rate_limitedMehr als 300 Anfragen pro Minute mit einem vollwertigen Schlüssel (60 bei der Testversion)Verlangsame, füge eine Warteschlange hinzu
429, concurrencyMehr als 8 gleichzeitige Anfragen mit einem Vollschlüssel (2 bei der Testversion)Begrenze deine Worker
429 mit Retry-After: 5Vorübergehende ÜberlastungWarte 5 Sekunden und versuche es erneut
401Typischerweise ein fehlender oder falscher SchlüsselPrüfe den Authorization: Bearer-Header
404Typischerweise ein falscher Pfad oder eine falsche Basis-URLDie Basis-URL muss bei /v1 enden

Ein einfacher Retry-Wrapper benötigt wenige Zeilen und behebt eine ganze Klasse sporadischer Leerstellen:

import time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://api.unfilteredaiapi.com/v1", api_key="YOUR_KEY")

def ask(messages, tries=4):
    for attempt in range(tries):
        try:
            r = client.chat.completions.create(model="uncensored", messages=messages)
            return r.choices[0].message.content or ""
        except RateLimitError as e:
            wait = 5
            retry_after = getattr(e.response, "headers", {}).get("retry-after")
            if retry_after:
                wait = int(retry_after)
            time.sleep(wait)
    raise RuntimeError("still limited after retries")

Fehlgeschlagene oder abgelehnte Anfragen werden nicht berechnet, sodass eine Retry-Schleife dich nicht doppelt kostet. Du kannst dies bestätigen, indem du X-Balance-USD vor und nach einer fehlgeschlagenen Anfrage vergleichst.

Ursache 5: Der falsche Endpunkt, das falsche Modell oder der falsche Schlüssel

Eine kurze Checkliste für Konfigurationsfehler, die seltsame Ergebnisse statt lauter Fehler erzeugen:

  1. Die Basis-URL ist https://api.unfilteredaiapi.com/v1. Ein fehlender oder doppelter /v1 kann einen 404-Körper ergeben, den ein nachsichtiger Client in eine leere Antwort umwandelt.
  2. Der Modellname ist uncensored, exakt so geschrieben. Die Einstellung eines Modells aus dem Katalog eines anderen Anbieters ist ein häufiger Copy-Paste-Fehler.
  3. Nur POST /v1/chat/completions und GET /v1/models existieren. Der Legacy-Completions-Endpunkt, Embeddings und Bild-Endpunkte sind nicht verfügbar, sodass eine Bibliothek, die sie aufruft, nichts Nützliches zurückbekommt.
  4. Der Schlüssel wird als Bearer-Token gesendet und enthält keine zusätzlichen Leerzeichen oder Anführungszeichen aus einer Env-Datei.

Rufe GET /v1/models mit deinem Schlüssel als Verbindungstest auf. Wenn es das Modell auflistet, sind Basis-URL und Schlüssel korrekt und das Problem liegt im Anfragekörper. Der Schnellstart enthält die minimal funktionierende Anfrage zum Vergleichen, und die FAQ behandelt Zugriff, Limits und Abrechnung.

Protokollierung, die den nächsten Vorfall verkürzt

Leere Antworten sind im Nachhinein schwer zu debuggen, weil niemand aufgezeichnet hat, was der Server gesendet hat. Ein paar Zeilen Logging verwandeln ein Rätsel in eine einfache Suche.

  1. Logge den X-Request-Id-Antwortheader bei jeder Anfrage, erfolgreich oder nicht.
  2. Logge finish_reason, die usage-Zahlen und die Länge des zurückgegebenen Textes.
  3. Logge bei Streams, wie viele Chunks angekommen sind und wie viele Text enthielten. Null Chunks mit Text und ein normaler Abschluss deuten auf deinen Parser hin. Null Chunks insgesamt deuten auf das Netzwerk oder den Proxy hin.
  4. Alarmiere bei dem Verhältnis von leeren Antworten zu Gesamtanfragen, nicht bei einzelnen Ereignissen. Eine leere Antwort auf tausend ist Rauschen. Fünf Prozent sind ein Fehler.

Wenn du eine fehlgeschlagene Anfrage mit einer funktionierenden vergleichst, diff-e zuerst die Anfragetexte. Ein geänderter System-Prompt, eine hinzugefügte stop-Liste, ein kleineres max_tokens oder ein ausgetauschter Modellname erklären die meisten Regressionen. Lege den Anfragetext für eine Stichprobe von Anfragen im Log ab, nachdem du persönliche Daten entfernt hast.

Wenn mehrere Benutzer gleichzeitig leere Antworten melden und dein curl-Test ebenfalls fehlschlägt, ist die Ursache wahrscheinlich nicht dein Code. Prüfe zuerst auf einen 429 mit Retry-After, da eine temporäre Überlastung so signalisiert wird, und wiederhole die Anfrage nach der angegebenen Verzögerung. Wenn der curl-Test funktioniert und deine App fehlschlägt, gehe clientseitig vor, indem du die obigen Abschnitte nutzt.

Wenn die Antwort kurz statt leer ist

Manchmal ist das Symptom eine einzeilige Antwort, wo du eine Seite wolltest. Das ist eher ein Prompting-Problem als ein Transportproblem. Fordere die Länge und Struktur, die du möchtest ("mindestens 400 Wörter, in drei Absätzen"), lege die Anweisung in die System-Nachricht und erhöhe temperature etwas, wenn das Modell knapp antwortet. Das Modell ist darauf ausgelegt, bei legaler Erwachsenennutzung ohne Inhaltsablehnungen zu antworten, daher ist eine kurze Antwort selten eine Ablehnung; eher ist es eine unpräzise Anfrage. Sexuelle Inhalte mit Minderjährigen sind die einzige harte Grenze und werden immer abgelehnt.

Immer noch feststeckend? Sende dem Support die X-Request-Id aus der fehlerhaften Antwort, die ungefähre Uhrzeit und den Anfragetext ohne deinen Schlüssel. Das ermöglicht es, den genauen Aufruf zu finden. Wenn du neu im Service bist, findest du auf der Schlüssel-Seite das Testguthaben, das für Dutzende von Debugging-Aufrufen ausreicht.

Fragen und Antworten

Warum ist message.content null?

Meistens hat das Modell tool_calls anstelle von Text zurückgegeben, oder der Stream wurde falsch gelesen. Prüfe finish_reason und tool_calls in der Nachricht, bevor du es als Fehler behandelst.

Kostet eine leere Antwort Geld?

Fehlgeschlagene oder abgelehnte Anfragen werden nicht berechnet. Wenn eine Anfrage erfolgreich war und Tokens erzeugt hat, siehst du Nutzungszahlen, und X-Balance-USD in den Headern zeigt dein Guthaben an.

Kann ein volles Kontextfenster zu leerer Ausgabe führen?

Ja. Prompt und Vervollständigung teilen sich 100.000 Token, sodass ein fast voller Verlauf kaum oder gar keinen Platz für die Antwort lässt. Kürze oder fasse frühere Nachrichten zusammen.

Warum zeigt mein Stream nichts, dann alles auf einmal?

Ein Proxy oder CDN puffert wahrscheinlich die SSE-Antwort. Deaktiviere das Puffern für diese Route, damit Chunks durchgehen, sobald sie eintreffen.

Dein Schlüssel ist nur ein Formular entfernt

Erstelle ein Konto, kopiere den Schlüssel, ändere die Basis-URL. Das ist die gesamte Einrichtung.

API-Schlüssel erhaltenLies die Dokumentation