繁中 ▾

unfilteredaiapi.comhttps://api.unfilteredaiapi.com/v1

Unfiltered AI

給開發者的原始、無審查 LLM API。

Unfiltered AI取得 API 金鑰

LLM API 回應為空?原因與解決方法

當出現 LLM API 回應為空的錯誤時,伺服器通常已回覆,空字串來自於讀取回應的方式。以下是一份依發生頻率排序的檢查清單。

數據流經玻璃管流向空白的對話氣泡,透鏡揭示了隱藏的分支

重點摘要

  • 先列印原始 JSON。大多數空回應是解析問題,而非服務中斷。
  • 檢查 finish_reason:length、stop 和 tool_calls 各自會導致 content 欄位為空白。
  • 在串流中,應防禦性地讀取 delta.content,並跳過沒有 choices 的區塊。
  • 429 錯誤或緩衝 SSE 的代理伺服器,在某些客戶端中可能看起來像是空的回應。

首先查看原始回應

在變更任何設定之前,請精確捕捉回傳的內容。封裝庫會隱藏原因:使用裸程式碼 print(response.choices[0].message.content) 會顯示 None 或空字串,無論請求主體是空的、包含工具呼叫、因長度限制結束還是從未到達。

使用 curl 以避免客戶端程式碼干擾,並使用 -i 包含標頭:

curl -i https://api.unfilteredaiapi.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Say hello in five words."}]
  }'

在結果中讀取三件事。首先,狀態行:200 表示產生了補全,429 表示觸及限制,401 等驗證錯誤通常指向金鑰。其次,choices[0].finish_reason。第三,回應標頭,特別是 X-Request-Id(若聯繫 支援 請保留它)和 X-Balance-USD,這顯示帳戶是否仍有額度。如果此 curl 呼叫返回文字,表示服務正常,問題出在你的客戶端。如果返回錯誤主體,你已經找到了原因。

原因 1:訊息包含工具呼叫,而非文字

如果你傳遞 tools 且模型決定呼叫其中一個,助手訊息會有 tool_calls,而其 content 為 null 或空。僅讀取 content 的程式碼會看到空回應。解決方法是先檢查工具呼叫,執行函式,將結果以 role: "tool" 附加為訊息,然後再次呼叫 API。

from openai import OpenAI

client = OpenAI(base_url="https://api.unfilteredaiapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "What is the weather in Oslo?"}],
    tools=[{
        "type": "function",
        "function": {
            "name": "get_weather",
            "description": "Get current weather for a city",
            "parameters": {
                "type": "object",
                "properties": {"city": {"type": "string"}},
                "required": ["city"],
            },
        },
    }],
)

msg = resp.choices[0].message
if msg.tool_calls:
    print("tool call:", msg.tool_calls[0].function.name, msg.tool_calls[0].function.arguments)
else:
    print(msg.content)

如果你不想提供工具,請移除 tools 和 tool_choice 欄位。來自先前實驗的殘留工具定義是文字為空的常見原因。

原因 2:回應被截斷或從未開始

finish_reason 解釋了其餘大部分情況。

  • length. 補全達到了 token 上限。你可能將 max_tokens 設得很低,例如 1 或 10。此參數在此為可選,因為補全可以使用 100,000-token 視窗剩餘的任何空間,因此最簡單的解決方法是移除它。如果需要上限,請設定足夠的餘量。
  • stop. 模型正常結束,或產生了你的 stop 序列。像換行符這樣的停止序列會在第一個換行符處停止回應,如果模型以空行開頭,這可能會讓你什麼都得不到。移除或放寬該序列。
  • tool_calls. 請參見上一節。

上下文溢位是另一種長度問題。視窗為 100,000 個 token,計算提示詞與補全的總和。如果對話歷史已增長到幾乎填滿它,幾乎沒有空間來回答。請修剪舊的對話或對其進行摘要。對話記憶與長上下文視窗頁面展示了控制歷史記錄的方法。請求主體也不能超過 8 MB。

另一個小陷阱:JSON 模式。當 response_format 設為 json_object 時,請在指示中包含 JSON 字詞並描述你想要的結構。模糊的提示詞加上 JSON 模式會產生單薄或瑣碎的輸出,一旦從中提取金鑰,看起來就像空的。

原因 3:串流讀取錯誤

透過 SSE 的串流會發送許多小區塊。並非每個區塊都包含文字。第一個區塊通常只有 role,最後一個內容區塊帶有 finish_reason 且 delta 為空,而報告用量的最後一個區塊可能帶有空的 choices 列表。在每個區塊上索引 choices[0] 的程式碼會崩潰,而將沒有文字的區塊視為完整答案的程式碼會不顯示任何內容。

from openai import OpenAI

client = OpenAI(base_url="https://api.unfilteredaiapi.com/v1", api_key="YOUR_KEY")

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Write two sentences about rain."}],
    stream=True,
)

parts = []
for chunk in stream:
    if not chunk.choices:
        continue
    delta = chunk.choices[0].delta
    if delta.content:
        parts.append(delta.content)

text = "".join(parts)
print(text if text else "[no content received]")

兩個環境問題也會看起來像空串流。緩衝回應的反向代理伺服器或 CDN 會保留所有區塊直到結束,因此瀏覽器會長時間看不到任何內容,然後一次全部顯示,或者先觸發超時。請在代理伺服器中針對串流路由關閉回應緩衝。此外,串流會佔用其並行槽位直到結束,因此被放棄的串流(關閉的分頁、缺少 close())會逐漸耗盡你的 8 個槽位。下一個請求則會收到 429 而非文字。完整伺服器範例請見 具有 SSE 串流的 FastAPI 後端。

原因 4:你的客戶端吞沒的錯誤

某些 HTTP 封裝庫在非 200 狀態下會返回空字串而不是拋出異常。記錄每個失敗的狀態碼和主體。重要的案例:

狀態或代碼說明該怎麼辦
429, rate_limited完整金鑰每分鐘超過 300 次請求(試用金鑰為 60 次)減速,加入佇列
429, concurrency完整金鑰同時超過 8 次請求(試用金鑰為 2 次)限制你的工作程序
429 帶有 Retry-After: 5暫時過載等待 5 秒後重試
401通常是金鑰遺失或錯誤檢查 Authorization: Bearer 標頭
404通常是路徑或 Base URL 錯誤Base URL 必須以 /v1 結尾

簡單的重試封裝只需幾行程式碼即可消除一整類偶發的空回應:

import time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://api.unfilteredaiapi.com/v1", api_key="YOUR_KEY")

def ask(messages, tries=4):
    for attempt in range(tries):
        try:
            r = client.chat.completions.create(model="uncensored", messages=messages)
            return r.choices[0].message.content or ""
        except RateLimitError as e:
            wait = 5
            retry_after = getattr(e.response, "headers", {}).get("retry-after")
            if retry_after:
                wait = int(retry_after)
            time.sleep(wait)
    raise RuntimeError("still limited after retries")

失敗或遭拒絕的請求不會收費,因此重試迴圈不會讓你付兩次錢。你可以透過比較失敗呼叫前後 X-Balance-USD 來確認。

原因 5:錯誤的端點、模型或金鑰

導致異常結果而非明顯錯誤的設定錯誤簡短檢查清單:

  1. Base URL 為 https://api.unfilteredaiapi.com/v1。缺少 /v1 或重複它可能會導致 404 主體,寬容的客戶端會將其轉為空回應。
  2. 模型名稱為 uncensored,拼寫必須完全正確。將模型設定為來自其他供應商目錄的模型是常見的複製貼上錯誤。
  3. 只有 POST /v1/chat/completions 和 GET /v1/models 存在。舊版補全端點、嵌入和圖片路由不可用,因此呼叫它們的程式庫會得不到有用的結果。
  4. 金鑰以 Bearer token 形式發送,且沒有來自環境檔案的雜亂空白或引號。

使用你的金鑰呼叫 GET /v1/models 作為連線測試。如果它列出了模型,表示 Base URL 和金鑰正確,問題出在請求主體。快速入門 有最小可行請求可供比較,常見問題 涵蓋存取、限制和計費。

記錄可縮短下次事故的處理時間

事後難以除錯空回應,因為沒有人記錄伺服器發送了什麼。幾行記錄能將迷團變成查詢。

  1. 每次呼叫(無論成功與否)都記錄 X-Request-Id 回應標頭。
  2. 記錄 finish_reason、usage 計數以及返回文字的長度。
  3. 對於串流輸出,記錄收到了多少區塊,以及多少區塊包含文字。收到零個包含文字的區塊且正常結束,表示是你的解析器問題。完全沒有區塊,表示是網路或代理伺服器問題。
  4. 針對空回應與總呼叫的比率發出警示,而非針對單一事件。一千次中出現一次空白是雜訊。百分之五是錯誤。

當您比較失敗的呼叫與正常的呼叫時,請先比較請求主體。系統提示詞的變更、新增的stop列表、較小的max_tokens或替換的模型名稱,解釋了大多數的退化情況。在移除任何個人資料後,將請求主體放入日誌中,作為呼叫的範例。

如果多位使用者同時回報空白,且您的 curl 測試也失敗,原因可能不是您的程式碼。首先檢查帶有Retry-After的 429 錯誤,因為暫時過載會以此方式通知,並在指定的延遲後重試。如果 curl 測試正常但您的應用程式失敗,請從上述章節開始從客戶端側進行排查。

如果回應較短而非空白

有時症狀是你想要一頁內容,卻只得到一行回答。這是提示詞問題多於傳輸問題。請指定你想要的長度和格式(例如「至少 400 字,分為三段」),將指示放入系統提示詞中,並稍微提高 temperature 如果模型回答過於簡短。該模型已針對合法成人用途進行調整,可無審查地回答,因此短回應很少是因為拒絕;更多是因為請求不夠明確。涉及未成年人的性內容是唯一硬性限制,且一定會被拒絕。

仍卡住嗎?將失敗回應中的 X-Request-Id、大約時間以及不含金鑰的請求主體發送給支援團隊。這能讓人員找到確切的呼叫。如果你是服務的新用戶,金鑰頁面 有免費試用額度領取,足以進行數十次除錯呼叫。

問答

為什麼 message.content 是 null?

最常見的情況是模型返回了 tool_calls 而非文字,或是串流被錯誤讀取。在將其視為錯誤之前,請檢查訊息上的 finish_reason 和 tool_calls。

空回應會收費嗎?

失敗或遭拒絕的請求不會收費。如果呼叫成功並產生了 token,你會看到使用量計數,且回應標頭中的 X-Balance-USD 會顯示你的餘額。

完整的上下文視窗會導致空白輸出嗎?

是的。提示詞與完成內容共用 100,000 個 token,因此幾乎滿載的歷史記錄會為回答留下很少或完全沒有空間。請修剪或摘要較早的對話輪次。

為什麼我的串流一開始沒有顯示任何內容,然後卻一次顯示全部?

代理伺服器或 CDN 可能正在緩衝 SSE 回應。請針對該路由停用緩衝功能,讓資料區塊在到達時直接通過。

您的金鑰只需填寫一份表單即可取得

建立帳號、複製金鑰、更改基礎 URL。這就是整個設定過程。

取得 API 金鑰閱讀文件