LLM API 回應為空?原因與解決方法
當出現 LLM API 回應為空的錯誤時,伺服器通常已回覆,空字串來自於讀取回應的方式。以下是一份依發生頻率排序的檢查清單。
更新Unfiltered AI

重點摘要
- 先列印原始 JSON。大多數空回應是解析問題,而非服務中斷。
- 檢查 finish_reason:length、stop 和 tool_calls 各自會導致 content 欄位為空白。
- 在串流中,應防禦性地讀取 delta.content,並跳過沒有 choices 的區塊。
- 429 錯誤或緩衝 SSE 的代理伺服器,在某些客戶端中可能看起來像是空的回應。
首先查看原始回應
在變更任何設定之前,請精確捕捉回傳的內容。封裝庫會隱藏原因:使用裸程式碼 print(response.choices[0].message.content) 會顯示 None 或空字串,無論請求主體是空的、包含工具呼叫、因長度限制結束還是從未到達。
使用 curl 以避免客戶端程式碼干擾,並使用 -i 包含標頭:
curl -i https://api.unfilteredaiapi.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Say hello in five words."}]
}'
在結果中讀取三件事。首先,狀態行:200 表示產生了補全,429 表示觸及限制,401 等驗證錯誤通常指向金鑰。其次,choices[0].finish_reason。第三,回應標頭,特別是 X-Request-Id(若聯繫 支援 請保留它)和 X-Balance-USD,這顯示帳戶是否仍有額度。如果此 curl 呼叫返回文字,表示服務正常,問題出在你的客戶端。如果返回錯誤主體,你已經找到了原因。
原因 1:訊息包含工具呼叫,而非文字
如果你傳遞 tools 且模型決定呼叫其中一個,助手訊息會有 tool_calls,而其 content 為 null 或空。僅讀取 content 的程式碼會看到空回應。解決方法是先檢查工具呼叫,執行函式,將結果以 role: "tool" 附加為訊息,然後再次呼叫 API。
from openai import OpenAI
client = OpenAI(base_url="https://api.unfilteredaiapi.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "What is the weather in Oslo?"}],
tools=[{
"type": "function",
"function": {
"name": "get_weather",
"description": "Get current weather for a city",
"parameters": {
"type": "object",
"properties": {"city": {"type": "string"}},
"required": ["city"],
},
},
}],
)
msg = resp.choices[0].message
if msg.tool_calls:
print("tool call:", msg.tool_calls[0].function.name, msg.tool_calls[0].function.arguments)
else:
print(msg.content)
如果你不想提供工具,請移除 tools 和 tool_choice 欄位。來自先前實驗的殘留工具定義是文字為空的常見原因。
原因 2:回應被截斷或從未開始
finish_reason 解釋了其餘大部分情況。
- length. 補全達到了 token 上限。你可能將
max_tokens設得很低,例如 1 或 10。此參數在此為可選,因為補全可以使用 100,000-token 視窗剩餘的任何空間,因此最簡單的解決方法是移除它。如果需要上限,請設定足夠的餘量。 - stop. 模型正常結束,或產生了你的
stop序列。像換行符這樣的停止序列會在第一個換行符處停止回應,如果模型以空行開頭,這可能會讓你什麼都得不到。移除或放寬該序列。 - tool_calls. 請參見上一節。
上下文溢位是另一種長度問題。視窗為 100,000 個 token,計算提示詞與補全的總和。如果對話歷史已增長到幾乎填滿它,幾乎沒有空間來回答。請修剪舊的對話或對其進行摘要。對話記憶與長上下文視窗頁面展示了控制歷史記錄的方法。請求主體也不能超過 8 MB。
另一個小陷阱:JSON 模式。當 response_format 設為 json_object 時,請在指示中包含 JSON 字詞並描述你想要的結構。模糊的提示詞加上 JSON 模式會產生單薄或瑣碎的輸出,一旦從中提取金鑰,看起來就像空的。
原因 3:串流讀取錯誤
透過 SSE 的串流會發送許多小區塊。並非每個區塊都包含文字。第一個區塊通常只有 role,最後一個內容區塊帶有 finish_reason 且 delta 為空,而報告用量的最後一個區塊可能帶有空的 choices 列表。在每個區塊上索引 choices[0] 的程式碼會崩潰,而將沒有文字的區塊視為完整答案的程式碼會不顯示任何內容。
from openai import OpenAI
client = OpenAI(base_url="https://api.unfilteredaiapi.com/v1", api_key="YOUR_KEY")
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Write two sentences about rain."}],
stream=True,
)
parts = []
for chunk in stream:
if not chunk.choices:
continue
delta = chunk.choices[0].delta
if delta.content:
parts.append(delta.content)
text = "".join(parts)
print(text if text else "[no content received]")
兩個環境問題也會看起來像空串流。緩衝回應的反向代理伺服器或 CDN 會保留所有區塊直到結束,因此瀏覽器會長時間看不到任何內容,然後一次全部顯示,或者先觸發超時。請在代理伺服器中針對串流路由關閉回應緩衝。此外,串流會佔用其並行槽位直到結束,因此被放棄的串流(關閉的分頁、缺少 close())會逐漸耗盡你的 8 個槽位。下一個請求則會收到 429 而非文字。完整伺服器範例請見 具有 SSE 串流的 FastAPI 後端。
原因 4:你的客戶端吞沒的錯誤
某些 HTTP 封裝庫在非 200 狀態下會返回空字串而不是拋出異常。記錄每個失敗的狀態碼和主體。重要的案例:
| 狀態或代碼 | 說明 | 該怎麼辦 |
|---|---|---|
429, rate_limited | 完整金鑰每分鐘超過 300 次請求(試用金鑰為 60 次) | 減速,加入佇列 |
429, concurrency | 完整金鑰同時超過 8 次請求(試用金鑰為 2 次) | 限制你的工作程序 |
429 帶有 Retry-After: 5 | 暫時過載 | 等待 5 秒後重試 |
| 401 | 通常是金鑰遺失或錯誤 | 檢查 Authorization: Bearer 標頭 |
| 404 | 通常是路徑或 Base URL 錯誤 | Base URL 必須以 /v1 結尾 |
簡單的重試封裝只需幾行程式碼即可消除一整類偶發的空回應:
import time
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://api.unfilteredaiapi.com/v1", api_key="YOUR_KEY")
def ask(messages, tries=4):
for attempt in range(tries):
try:
r = client.chat.completions.create(model="uncensored", messages=messages)
return r.choices[0].message.content or ""
except RateLimitError as e:
wait = 5
retry_after = getattr(e.response, "headers", {}).get("retry-after")
if retry_after:
wait = int(retry_after)
time.sleep(wait)
raise RuntimeError("still limited after retries")
失敗或遭拒絕的請求不會收費,因此重試迴圈不會讓你付兩次錢。你可以透過比較失敗呼叫前後 X-Balance-USD 來確認。
原因 5:錯誤的端點、模型或金鑰
導致異常結果而非明顯錯誤的設定錯誤簡短檢查清單:
- Base URL 為
https://api.unfilteredaiapi.com/v1。缺少/v1或重複它可能會導致 404 主體,寬容的客戶端會將其轉為空回應。 - 模型名稱為
uncensored,拼寫必須完全正確。將模型設定為來自其他供應商目錄的模型是常見的複製貼上錯誤。 - 只有
POST /v1/chat/completions和GET /v1/models存在。舊版補全端點、嵌入和圖片路由不可用,因此呼叫它們的程式庫會得不到有用的結果。 - 金鑰以 Bearer token 形式發送,且沒有來自環境檔案的雜亂空白或引號。
使用你的金鑰呼叫 GET /v1/models 作為連線測試。如果它列出了模型,表示 Base URL 和金鑰正確,問題出在請求主體。快速入門 有最小可行請求可供比較,常見問題 涵蓋存取、限制和計費。
記錄可縮短下次事故的處理時間
事後難以除錯空回應,因為沒有人記錄伺服器發送了什麼。幾行記錄能將迷團變成查詢。
- 每次呼叫(無論成功與否)都記錄
X-Request-Id回應標頭。 - 記錄
finish_reason、usage計數以及返回文字的長度。 - 對於串流輸出,記錄收到了多少區塊,以及多少區塊包含文字。收到零個包含文字的區塊且正常結束,表示是你的解析器問題。完全沒有區塊,表示是網路或代理伺服器問題。
- 針對空回應與總呼叫的比率發出警示,而非針對單一事件。一千次中出現一次空白是雜訊。百分之五是錯誤。
當您比較失敗的呼叫與正常的呼叫時,請先比較請求主體。系統提示詞的變更、新增的stop列表、較小的max_tokens或替換的模型名稱,解釋了大多數的退化情況。在移除任何個人資料後,將請求主體放入日誌中,作為呼叫的範例。
如果多位使用者同時回報空白,且您的 curl 測試也失敗,原因可能不是您的程式碼。首先檢查帶有Retry-After的 429 錯誤,因為暫時過載會以此方式通知,並在指定的延遲後重試。如果 curl 測試正常但您的應用程式失敗,請從上述章節開始從客戶端側進行排查。
如果回應較短而非空白
有時症狀是你想要一頁內容,卻只得到一行回答。這是提示詞問題多於傳輸問題。請指定你想要的長度和格式(例如「至少 400 字,分為三段」),將指示放入系統提示詞中,並稍微提高 temperature 如果模型回答過於簡短。該模型已針對合法成人用途進行調整,可無審查地回答,因此短回應很少是因為拒絕;更多是因為請求不夠明確。涉及未成年人的性內容是唯一硬性限制,且一定會被拒絕。
仍卡住嗎?將失敗回應中的 X-Request-Id、大約時間以及不含金鑰的請求主體發送給支援團隊。這能讓人員找到確切的呼叫。如果你是服務的新用戶,金鑰頁面 有免費試用額度領取,足以進行數十次除錯呼叫。
更多指南
問答
為什麼 message.content 是 null?
最常見的情況是模型返回了 tool_calls 而非文字,或是串流被錯誤讀取。在將其視為錯誤之前,請檢查訊息上的 finish_reason 和 tool_calls。
空回應會收費嗎?
失敗或遭拒絕的請求不會收費。如果呼叫成功並產生了 token,你會看到使用量計數,且回應標頭中的 X-Balance-USD 會顯示你的餘額。
完整的上下文視窗會導致空白輸出嗎?
是的。提示詞與完成內容共用 100,000 個 token,因此幾乎滿載的歷史記錄會為回答留下很少或完全沒有空間。請修剪或摘要較早的對話輪次。
為什麼我的串流一開始沒有顯示任何內容,然後卻一次顯示全部?
代理伺服器或 CDN 可能正在緩衝 SSE 回應。請針對該路由停用緩衝功能,讓資料區塊在到達時直接通過。