Risposta API LLM vuota? Cause e soluzioni
Quando appare un errore di risposta API LLM vuota, il server ha solitamente risposto e la stringa vuota deriva dal modo in cui viene letta la risposta. Ecco un elenco di controllo, ordinato per frequenza di comparsa di ogni causa.
AggiornatoUnfiltered AI

Punti chiave
- Stampa prima il JSON grezzo. La maggior parte delle risposte vuote è un problema di parsing, non un guasto.
- Controlla finish_reason: length, stop e tool_calls spiegano ciascuno un campo content vuoto.
- Negli stream, leggi delta.content in modo difensivo e salta i chunk senza scelte.
- Un 429 o un proxy che bufferizza SSE può sembrare una risposta vuota in alcuni client.
Inizia esaminando la risposta grezza
Prima di modificare qualsiasi impostazione, registra esattamente cosa è stato restituito. Le librerie wrapper nascondono la causa: un semplice print(response.choices[0].message.content) mostra None o una stringa vuota sia che il corpo fosse vuoto, contenesse una chiamata di funzioni, terminasse per limite di lunghezza o non fosse mai arrivato.
Usa curl in modo che nessun codice client sia di ostacolo, e includi le intestazioni con -i:
curl -i https://api.unfilteredaiapi.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Say hello in five words."}]
}'
Leggi tre cose nel risultato. Primo, la riga di stato: 200 significa che è stata prodotta una completamento, 429 significa che è stato raggiunto un limite, un errore di autenticazione come 401 indica solitamente la chiave. Secondo, choices[0].finish_reason. Terzo, le intestazioni di risposta, in particolare X-Request-Id (conservalo se contatti support) e X-Balance-USD, che mostra se l'account ha ancora credito. Se questa chiamata curl restituisce testo, il servizio funziona e il problema è nel tuo client. Se restituisce un corpo di errore, hai già la causa.
Causa 1: il messaggio contiene una chiamata di funzione, non testo
Se passi tools e il modello decide di chiamarne uno, il messaggio dell'assistant ha tool_calls e il suo content è null o vuoto. Il codice che legge solo content vede una risposta vuota. La soluzione è controllare prima le chiamate di funzione, eseguire la funzione, aggiungere il risultato come messaggio con role: "tool" e chiamare di nuovo l'API.
from openai import OpenAI
client = OpenAI(base_url="https://api.unfilteredaiapi.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "What is the weather in Oslo?"}],
tools=[{
"type": "function",
"function": {
"name": "get_weather",
"description": "Get current weather for a city",
"parameters": {
"type": "object",
"properties": {"city": {"type": "string"}},
"required": ["city"],
},
},
}],
)
msg = resp.choices[0].message
if msg.tool_calls:
print("tool call:", msg.tool_calls[0].function.name, msg.tool_calls[0].function.arguments)
else:
print(msg.content)
Se non intendevi offrire strumenti, rimuovi i campi tools e tool_choice. Una definizione di strumento rimasta da un esperimento precedente è una causa classica di testo vuoto.
Causa 2: la risposta è stata troncata o non è mai iniziata
finish_reason spiega la maggior parte del resto.
- length. Il completamento ha raggiunto un limite di token. Potresti aver impostato
max_tokensmolto basso, ad esempio 1 o 10. Il parametro è opzionale qui, poiché il completamento può usare tutto ciò che rimane della finestra da 100.000 token, quindi la soluzione più semplice è rimuoverlo. Se hai bisogno di un limite, impostalo con margine. - stop. Il modello è terminato normalmente, oppure ha prodotto una delle tue stringhe
stop. Una sequenza di stop come una nuova riga interrompe la risposta al primo a capo, il che può lasciarti senza nulla se il modello inizia con una riga vuota. Rimuovi o allenta la sequenza. - tool_calls. Vedi la sezione precedente.
Il superamento della finestra di contesto è l'altro problema di lunghezza. La finestra è di 100.000 token, contando prompt e completamento insieme. Se una cronologia delle chat è cresciuta fino a riempirla quasi, non c'è quasi più spazio per rispondere. Taglia i turni vecchi o riassumili. La pagina su memoria della conversazione e la finestra di contesto lunga mostra modi per mantenere la cronologia sotto controllo. Anche il corpo di una richiesta non può superare gli 8 MB.
Un'altra piccola trappola: la modalità JSON. Con response_format impostato su json_object, includi la parola JSON nelle tue istruzioni e descrivi la forma che vuoi. Un prompt vago più la modalità JSON produce output sottile o banale che sembra vuoto una volta estratta una chiave da esso.
Causa 3: lo streaming è letto male
Lo streaming su SSE invia molti piccoli chunk. Non ogni chunk trasporta testo. Il primo chunk ha spesso solo il ruolo, l'ultimo chunk di contenuto trasporta un finish_reason con un delta vuoto, e l'ultimo chunk che riporta l'utilizzo può arrivare con una lista choices vuota. Il codice che indicizza choices[0] su ogni chunk andrà in crash, e il codice che tratta un chunk senza testo come risposta completa stamperà nulla.
from openai import OpenAI
client = OpenAI(base_url="https://api.unfilteredaiapi.com/v1", api_key="YOUR_KEY")
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Write two sentences about rain."}],
stream=True,
)
parts = []
for chunk in stream:
if not chunk.choices:
continue
delta = chunk.choices[0].delta
if delta.content:
parts.append(delta.content)
text = "".join(parts)
print(text if text else "[no content received]")
Due problemi ambientali sembrano anche stream vuoti. Un proxy inverso o una CDN che mette in buffer le risposte terrà tutti i chunk fino alla fine, quindi un browser non vedrà nulla per molto tempo e poi tutto insieme, oppure scadrà il timeout. Disabilita il buffering delle risposte per la rotta di streaming nel tuo proxy. E uno stream occupa la sua slot di concorrenza fino alla fine, quindi stream abbandonati (una scheda chiusa, una mancata close()) consumeranno gradualmente i tuoi 8 slot. La richiesta successiva riceverà un 429 invece di testo. Per un esempio completo del server, vedi il backend FastAPI con streaming SSE.
Causa 4: un errore che il tuo client ha inghiottito
Alcuni wrapper HTTP restituiscono una stringa vuota su uno status non-200 invece di generare un'eccezione. Registra il codice di stato e il corpo per ogni errore. I casi che contano:
| Status o codice | Significato | Cosa fare |
|---|---|---|
429, rate_limited | Più di 300 richieste al minuto su una chiave completa (60 in prova) | Rallenta, aggiungi una coda |
429, concurrency | Più di 8 richieste simultanee su una chiave completa (2 in prova) | Limita i tuoi worker |
429 con Retry-After: 5 | Sovraccarico temporaneo | Attendi 5 secondi e ritenta |
| 401 | Tipicamente una chiave mancante o errata | Controlla l'intestazione Authorization: Bearer |
| 404 | Tipicamente un percorso o un URL base errati | L'URL base deve terminare con /v1 |
Un semplice wrapper di retry richiede poche righe e rimuove un'intera classe di risposte vuote:
import time
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://api.unfilteredaiapi.com/v1", api_key="YOUR_KEY")
def ask(messages, tries=4):
for attempt in range(tries):
try:
r = client.chat.completions.create(model="uncensored", messages=messages)
return r.choices[0].message.content or ""
except RateLimitError as e:
wait = 5
retry_after = getattr(e.response, "headers", {}).get("retry-after")
if retry_after:
wait = int(retry_after)
time.sleep(wait)
raise RuntimeError("still limited after retries")
Le richieste fallite o rifiutate non vengono addebitate, quindi un ciclo di retry non ti fa pagare due volte. Puoi confermare confrontando X-Balance-USD prima e dopo una chiamata che sta fallendo.
Causa 5: endpoint, modello o chiave sbagliati
Un breve elenco di errori di configurazione che producono risultati strani invece di errori rumorosi:
- L'URL base è
https://api.unfilteredaiapi.com/v1. Un/v1mancante o duplicato può dare un corpo 404 che un client indulgente trasforma in una risposta vuota. - Il nome del modello è
uncensored, scritto esattamente come da spelling. Impostare un modello dal catalogo di un altro provider è un errore comune di copia-incolla. - Esistono solo
POST /v1/chat/completionseGET /v1/models. L'endpoint legacy completions, le rotte embeddings e quelle per le immagini non sono disponibili, quindi una libreria che le chiama non riceve nulla di utile indietro. - La chiave viene inviata come token Bearer e non ha spazi bianchi o virgolette estranee da un file env.
Chiama GET /v1/models con la tua chiave come test di connettività. Se elenca il modello, l'URL base e la chiave sono corretti e il problema è nel corpo della richiesta. La guida rapida ha la richiesta minima funzionante da confrontare, e la FAQ copre accesso, limiti e fatturazione.
Log che riducono i tempi del prossimo incidente
Le risposte vuote sono difficili da debuggare in un secondo momento perché nessuno ha registrato ciò che ha inviato il server. Alcune righe di log trasformano un mistero in una semplice ricerca.
- Registra l'intestazione di risposta
X-Request-Idcon ogni chiamata, andata a buon fine o meno. - Registra
finish_reason, i conteggiusagee la lunghezza del testo restituito. - Per gli stream, registra quanti chunk sono arrivati e quanti contenevano testo. Zero chunk con testo e un termine normale indicano un problema nel tuo parser. Zero chunk in assoluto indicano un problema di rete o del proxy.
- Attiva un alert sul rapporto tra risposte vuote e chiamate totali, non sui singoli eventi. Un bianco su mille è rumore. Il cinque percento è un bug.
Quando confronti una chiamata fallita con una funzionante, confronta prima i corpi della richiesta. Un system prompt modificato, un elenco stop aggiunto, un max_tokens ridotto o un nome del modello cambiato spiegano la maggior parte delle regressioni. Inserisci il corpo della richiesta nel log per un campione di chiamate, dopo aver rimosso i dati personali.
Se diversi utenti segnalano spazi vuoti contemporaneamente e anche il tuo test curl fallisce, la causa probabilmente non è il tuo codice. Controlla prima un 429 con Retry-After, poiché un sovraccarico temporaneo viene segnalato in questo modo, e riprova dopo il ritardo indicato. Se il test curl funziona e la tua app fallisce, lavora dal lato client usando le sezioni precedenti.
Se la risposta è breve invece che vuota
A volte il sintomo è una risposta di una riga dove volevi una pagina. È un problema di prompting più che di trasporto. Richiedi la lunghezza e la forma che desideri ("almeno 400 parole, in tre paragrafi"), inserisci l'istruzione nel system message e aumenta leggermente temperature se il modello è conciso. Il modello è ottimizzato per rispondere senza rifiuti di contenuto per l'uso adulto lecito, quindi una risposta breve è raramente un rifiuto; è più spesso una richiesta sotto-specificata. I contenuti sessuali che coinvolgono minorenni sono l'unico limite rigido e vengono sempre rifiutati.
Ancora bloccato? Invia al supporto X-Request-Id dalla risposta fallita, l'ora approssimativa e il corpo della richiesta senza la tua chiave. Questo permette a qualcuno di trovare la chiamata esatta. Se sei nuovo nel servizio, la pagina della chiave ha la richiesta del credito di prova, che è sufficiente per diverse decine di chiamate di debug.
Altre guide
Domande e risposte
Perché message.content è null?
Nella maggior parte dei casi il modello ha restituito tool_calls invece di testo, oppure lo stream è stato letto in modo errato. Controlla finish_reason e tool_calls sul messaggio prima di trattarlo come un errore.
Una risposta vuota costa denaro?
Le richieste fallite o rifiutate non vengono addebitate. Se una chiamata è andata a buon fine e ha prodotto token vedrai i conteggi di utilizzo, e X-Balance-USD nelle intestazioni mostra il tuo saldo.
Una finestra di contesto piena può causare output vuoto?
Sì. Prompt e completion condividono 100,000 token, quindi una cronologia quasi piena lascia poco o nessun spazio per la risposta. Taglia o riassumi i turni precedenti.
Perché il mio stream mostra nulla, poi tutto insieme?
Un proxy o una CDN stanno probabilmente facendo il buffering della risposta SSE. Disabilita il buffering per quella rotta così che gli chunk passino mentre arrivano.
La tua chiave è a un modulo di distanza
Crea un account, copia la chiave, modifica l'URL di base. È tutta la configurazione.