PL ▾

unfilteredaiapi.comhttps://api.unfilteredaiapi.com/v1

Unfiltered AI

Surowe API LLM bez cenzury dla deweloperów.

Unfiltered AIPobierz klucz API

Pusta odpowiedź API LLM? Przyczyny i rozwiązania

Gdy pojawi się błąd pustej odpowiedzi API LLM, serwer zwykle odpowiedział, a pusty string wynika ze sposobu odczytu odpowiedzi. Oto lista kontrolna, uszeregowana według częstotliwości występowania przyczyn.

Dane płynące przez szklaną rurę w kierunku pustego dymka mowy, z soczewką ukazującą ukrytą gałąź

Kluczowe punkty

  • Najpierw wydrukuj surowy JSON. Większość pustych odpowiedzi to problem parsowania, a nie awaria.
  • Sprawdź finish_reason: length, stop i tool_calls wyjaśniają puste pole content.
  • W strumieniowaniu odczytuj delta.content ostrożnie i pomijaj chunki bez choices.
  • 429 lub proxy buforujące SSE mogą wyglądać jak pusta odpowiedź w niektórych klientach.

Zacznij od spojrzenia na surową odpowiedź

Zanim zmienisz jakieś ustawienia, przechwyć dokładnie to, co wróciło. Biblioteki wrapperowe ukrywają przyczynę: gołe print(response.choices[0].message.content) pokazuje None lub pusty string, niezależnie od tego, czy ciało było puste, zawierało wywołanie narzędzia, zakończyło się limitem długości, czy w ogóle nie dotarło.

Użyj curl, aby żaden kod klienta nie stał na przeszkodzie, i dołącz nagłówki z -i:

curl -i https://api.unfilteredaiapi.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Say hello in five words."}]
  }'

Przeczytaj trzy rzeczy w wyniku. Po pierwsze, linię statusu: 200 oznacza, że wygenerowano odpowiedź, 429 oznacza przekroczenie limitu, a błąd uwierzytelnienia taki jak 401 zwykle wskazuje na klucz. Po drugie, choices[0].finish_reason. Po trzecie, nagłówki odpowiedzi, w szczególności X-Request-Id (zachowaj go, jeśli skontaktujesz się z wsparciem) oraz X-Balance-USD, który pokazuje, czy konto nadal ma środki. Jeśli to wywołanie curl zwraca tekst, usługa działa, a problem leży po stronie Twojego klienta. Jeśli zwraca ciało błędu, przyczyna jest już znana.

Przyczyna 1: wiadomość zawiera wywołanie narzędzia, a nie tekst

Jeśli przekażesz tools i model zdecyduje się wywołać jedno z nich, wiadomość asystenta ma tool_calls, a jej content to null lub pusty string. Kod, który czyta tylko content, widzi pustą odpowiedź. Rozwiązaniem jest sprawdzenie wywołań narzędzi, uruchomienie funkcji, dołączenie wyniku jako wiadomości z role: "tool" i ponowne wywołanie API.

from openai import OpenAI

client = OpenAI(base_url="https://api.unfilteredaiapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "What is the weather in Oslo?"}],
    tools=[{
        "type": "function",
        "function": {
            "name": "get_weather",
            "description": "Get current weather for a city",
            "parameters": {
                "type": "object",
                "properties": {"city": {"type": "string"}},
                "required": ["city"],
            },
        },
    }],
)

msg = resp.choices[0].message
if msg.tool_calls:
    print("tool call:", msg.tool_calls[0].function.name, msg.tool_calls[0].function.arguments)
else:
    print(msg.content)

Jeśli nie chciałeś oferować narzędzi, usuń pola tools i tool_choice. Pozostała definicja narzędzia po wcześniejszym eksperymencie to klasyczny powód pustego tekstu.

Przyczyna 2: odpowiedź została ucięta lub nie rozpoczęła się

finish_reason wyjaśnia większość pozostałych przypadków.

  • length. Generowanie trafiło w limit tokenów. Możliwe, że ustawiłeś max_tokens bardzo nisko, np. 1 lub 10. Parametr jest tutaj opcjonalny, ponieważ generowanie może wykorzystać dowolną liczbę tokenów z okna 100 000 tokenów, więc najprostszym rozwiązaniem jest usunięcie tego parametru. Jeśli potrzebujesz limitu, ustaw go z dużym zapasem.
  • stop. Model zakończył generowanie poprawnie lub wygenerował jeden z Twoich ciągów stop. Sekwencja stopu, taka jak znak nowej linii, zatrzymuje odpowiedź przy pierwszym znaku końca linii, co może skutkować pustą odpowiedzią, jeśli model zaczyna się od pustej linii. Usuń lub złagódź tę sekwencję.
  • tool_calls. Zobacz poprzedni rozdział.

Przepełnienie kontekstu to drugi problem z długością. Okno ma 100 000 tokenów, licząc razem prompt i odpowiedź. Jeśli historia czatu urosła do poziomu niemal pełnego okna, praktycznie nie ma już miejsca na odpowiedź. Skróć stare wypowiedzi lub je streszcz. Strona pamięci konwersacji i długiego okna kontekstu pokazuje sposoby na kontrolowanie historii. Ciało żądania również nie może przekraczać 8 MB.

Jeszcze jedna mała pułapka: tryb JSON. Przy ustawionym response_format na json_object, uwzględnij słowo JSON w instrukcjach i opisz kształt, którego oczekujesz. Niejasny prompt plus tryb JSON dają cienkie lub trywialne wyjście, które wygląda na puste, gdy wyciągniesz z niego klucz.

Przyczyna 3: błędny odczyt strumieniowania

Strumieniowanie przez SSE wysyła wiele małych fragmentów. Nie każdy fragment zawiera tekst. Pierwszy fragment często zawiera tylko rolę, ostatni fragment treści zawiera finish_reason z pustym delta, a końcowy fragment raportujący użycie może przyjść z pustą listą choices. Kod, który indeksuje choices[0] w każdym fragmencie, ulegnie awarii, a kod traktujący fragment bez tekstu jako pełną odpowiedź nic nie wypisze.

from openai import OpenAI

client = OpenAI(base_url="https://api.unfilteredaiapi.com/v1", api_key="YOUR_KEY")

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Write two sentences about rain."}],
    stream=True,
)

parts = []
for chunk in stream:
    if not chunk.choices:
        continue
    delta = chunk.choices[0].delta
    if delta.content:
        parts.append(delta.content)

text = "".join(parts)
print(text if text else "[no content received]")

Dwa problemy środowiskowe również wyglądają jak puste strumienie. Proxy odwrotne lub CDN buforujące odpowiedzi będą trzymać wszystkie fragmenty do końca, więc przeglądarka nie zobaczy nic przez długi czas, a potem wszystko naraz, albo najpierw wybuchnie limit czasu. Wyłącz buforowanie odpowiedzi dla trasy strumieniowania w swoim proxy. Strumień zajmuje swoje miejsce w limicie współbieżności do końca, więc porzucone strumienie (zamknięta karta, brakujące close()) będą stopniowo zużywać Twoje 8 slotów. Następne żądanie otrzyma wtedy 429 zamiast tekstu. Pełny przykład serwera znajdziesz w backendzie FastAPI ze strumieniowaniem SSE.

Przyczyna 4: błąd, który połknął Twój klient

Niektóre wrapper HTTP zwracają pusty string przy statusie innym niż 200 zamiast rzucić wyjątek. Loguj kod statusu i ciało dla każdej awarii. Istotne przypadki:

Status lub kodZnaczenieCo zrobić
429, rate_limitedPowyżej 300 zapytań na minutę przy pełnym kluczu (60 przy próbie)Zwolnij, dodaj kolejkę
429, concurrencyPowyżej 8 zapytań naraz przy pełnym kluczu (2 przy próbie)Ogranicz swoich workerów
429 z Retry-After: 5Tymczasowe przeciążeniePoczekaj 5 sekund i ponów próbę
401Zwykle brakujący lub nieprawidłowy kluczSprawdź nagłówek Authorization: Bearer
404Zwykle nieprawidłowa ścieżka lub base URLBase URL musi kończyć się na /v1

Prosty wrapper retry zajmuje kilka linii i usuwa całą klasę sporadycznych pustych treści:

import time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://api.unfilteredaiapi.com/v1", api_key="YOUR_KEY")

def ask(messages, tries=4):
    for attempt in range(tries):
        try:
            r = client.chat.completions.create(model="uncensored", messages=messages)
            return r.choices[0].message.content or ""
        except RateLimitError as e:
            wait = 5
            retry_after = getattr(e.response, "headers", {}).get("retry-after")
            if retry_after:
                wait = int(retry_after)
            time.sleep(wait)
    raise RuntimeError("still limited after retries")

Nieudane lub odrzucone zapytania nie są rozliczane, więc pętla retry nie kosztuje Cię dwukrotnie. Możesz to potwierdzić, porównując X-Balance-USD przed i po nieudanym wywołaniu.

Przyczyna 5: zły endpoint, model lub klucz

Krótka lista błędów konfiguracji, które dają dziwne wyniki, a nie głośne błędy:

  1. Podstawowy adres URL to https://api.unfilteredaiapi.com/v1. Brakujący /v1 lub jego podwojenie może zwrócić treść odpowiedzi 404, którą pobłażliwy klient zamienia w pustą odpowiedź.
  2. Nazwa modelu to uncensored, zapisana poprawnie. Ustawienie modelu z katalogu innego dostawcy to częsty błąd kopiowania i wklejania.
  3. Istnieją tylko POST /v1/chat/completions i GET /v1/models. Legacy endpoint completions, embeddings i ścieżki obrazów są niedostępne, więc biblioteka je wywołująca nic użytecznego nie otrzyma.
  4. Klucz jest wysyłany jako token Bearer i nie ma w nim przypadkowych spacji ani cudzysłowów z pliku env.

Wywołaj GET /v1/models ze swoim kluczem jako test łączności. Jeśli lista zawiera model, base URL i klucz są poprawne, a problem leży w ciele żądania. Poradnik zawiera minimalne poprawne żądanie do porównania, a FAQ omawia dostęp, limity i rozliczenia.

Logowanie, które skróci czas następnego incydentu

Puste odpowiedzi trudno debugować później, bo nikt nie zapisał, co zwrócił serwer. Kilka linijek logowania zamienia zagadkę w prosty lookup.

  1. Loguj nagłówek odpowiedzi X-Request-Id przy każdym wywołaniu, niezależnie od wyniku.
  2. Loguj finish_reason, liczniki usage oraz długość zwróconego tekstu.
  3. W przypadku strumieniowania loguj, ile fragmentów dotarło i ile zawierało tekst. Zero fragmentów z tekstem przy normalnym zakończeniu wskazuje na błąd Twojego parsera. Zero fragmentów łącznie wskazuje na problem z siecią lub proxy.
  4. Ustaw alert na stosunek pustych odpowiedzi do całkowitej liczby wywołań, a nie na pojedyncze zdarzenia. Jedna pusta odpowiedź na tysiąc to szum. Pięć procent to błąd.

Gdy porównujesz nieudane wywołanie z działającym, najpierw zróżnicuj ciała zapytań. Zmieniony system prompt, dodana lista stop, mniejsza wartość max_tokens lub zmieniona nazwa modelu wyjaśniają większość regresji. Dodaj ciało zapytania do logów dla próbki wywołań, po usunięciu danych osobowych.

Jeśli kilku użytkowników zgłasza puste odpowiedzi jednocześnie, a Twój test curl również zawodzi, przyczyną prawdopodobnie nie jest Twój kod. Najpierw sprawdź kod 429 z nagłówkiem Retry-After, ponieważ tym sposobem sygnalizowany jest tymczasowy overload, i wykonaj ponowne wywołanie po wskazanym opóźnieniu. Jeśli test curl działa, a Twoja aplikacja nie, pracuj od strony klienta, korzystając z powyższych sekcji.

Jeśli odpowiedź jest krótka, a nie pusta

Czasami objawem jest odpowiedź w jednym zdaniu, gdy oczekiwałeś strony. To problem promptu, a nie transportu. Poproś o żądaną długość i formę („co najmniej 400 słów, w trzech akapitach”), umieść instrukcję w system message i nieznacznie podnieś temperature, jeśli model jest zwięzły. Model jest dostrojony do odpowiadania bez odrzuceń treści dla prawnego użytku dorosłych, więc krótka odpowiedź rzadko wynika z odrzucenia treści; częściej jest to wynik niedokreślonego zapytania. Jednym twardym limitem jest treść seksualna z udziałem nieletnich, która zawsze jest odrzucana.

Nadal utknąłeś? Wyślij wsparciu X-Request-Id z nieudanej odpowiedzi, przybliżony czas oraz ciało zapytania bez swojego klucza. To pozwala znaleźć dokładne wywołanie. Jeśli korzystasz z usługi po raz pierwszy, strona klucza zawiera formularz do odebrania darmowego kredytu próbnego, który wystarczy na kilkadziesiąt zapytań debugujących.

Pytania i odpowiedzi

Dlaczego message.content jest null?

Najczęściej model zwrócił tool_calls zamiast tekstu lub strumień został odczytany niepoprawnie. Sprawdź finish_reason i tool_calls w wiadomości przed potraktowaniem tego jako błędu.

Czy pusta odpowiedź kosztuje pieniądze?

Nieudane lub odrzucone zapytania nie są rozliczane. Jeśli wywołanie się powiodło i wygenerowało tokeny, zobaczysz liczniki usage, a nagłówek X-Balance-USD w odpowiedzi pokaże Twój stan konta.

Czy pełne okno kontekstu może spowodować pustą odpowiedź?

Tak. Prompt i completion dzielą 100,000 tokenów, więc prawie pełna historia zostawia mało lub żadne miejsce na odpowiedź. Skróć lub streść wcześniejsze zwroty rozmowy.

Dlaczego mój strumień najpierw nic nie pokazuje, a potem wszystko naraz?

Proxy lub CDN prawdopodobnie buforuje odpowiedź SSE. Wyłącz buforowanie dla tej trasy, aby chunki przechodziły dalej w miarę ich przybywania.

Twój klucz jest o jeden formularz stąd

Utwórz konto, skopiuj klucz, zmień bazowy URL. To cała konfiguracja.

Pobierz klucz APIPrzeczytaj dokumentację