LLM APIの応答が空の場合:原因と解決策
LLM APIの応答が空のエラーが発生した場合、サーバーは通常応答しており、空の文字列は応答の読み取り方法に起因します。各原因の出現頻度順にチェックリストを示します。
更新済みUnfiltered AI

主要ポイント
- まず生JSONを出力してください。空の応答のほとんどは障害ではなく解析の問題です。
- finish_reasonを確認してください:length、stop、tool_callsはすべてcontentフィールドが空白になる理由になります。
- ストリームでは、delta.contentを防御的に読み取り、選択肢のないチャンクをスキップします。
- 429エラーまたはSSEをバッファリングするプロキシは、一部のクライアントでは空の応答のように見えることがあります。
まず生レスポンスを確認する
設定を変更する前に、返された内容を正確にキャプチャしてください。ラッパーライブラリは原因を隠します。生print(response.choices[0].message.content)は、本文が空だったか、ツール呼び出しを含んでいたか、長さ制限で終了したか、到達しなかったかに関わらずNoneまたは空文字列を表示します。
クライアントコードの干渉を避けるためcurlを使用し、ヘッダーを-iで含めてください:
curl -i https://api.unfilteredaiapi.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Say hello in five words."}]
}'
結果から3つの事柄を読み取ります。まずステータス行:200は完了が生成されたことを意味し、429は制限に達したことを意味し、401などの認証エラーは通常キーを指します。次に、choices[0].finish_reason。最後に、サポートに連絡する場合は保持すべきX-Request-Idや、アカウントにまだクレジットがあるかを示すX-Balance-USDなどのレスポンスヘッダーです。このcurl呼び出しがテキストを返す場合、サービスは正常に動作しており、問題はクライアント側にあります。エラーボディを返す場合、原因はすでに特定されています。
原因1:メッセージにテキストではなくツール呼び出しが含まれている
toolsを渡してモデルがツールを呼び出すと、アシスタントメッセージにはtool_callsが含まれ、contentはnullまたは空になります。contentのみを読み取るコードは空の応答を表示します。修正するには、まずツール呼び出しを確認し、関数を実行し、role: "tool"のメッセージとして結果を追加し、APIを再度呼び出します。
from openai import OpenAI
client = OpenAI(base_url="https://api.unfilteredaiapi.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "What is the weather in Oslo?"}],
tools=[{
"type": "function",
"function": {
"name": "get_weather",
"description": "Get current weather for a city",
"parameters": {
"type": "object",
"properties": {"city": {"type": "string"}},
"required": ["city"],
},
},
}],
)
msg = resp.choices[0].message
if msg.tool_calls:
print("tool call:", msg.tool_calls[0].function.name, msg.tool_calls[0].function.arguments)
else:
print(msg.content)
ツールを提供する意図がない場合は、toolsとtool_choiceフィールドを削除してください。以前の実験からの残りのツール定義は、テキストが空白になる典型的な理由です。
原因2:応答が切り捨てられたか、開始されていない
finish_reasonが残り大半の理由を説明します。
- length. 補完がトークン上限に達しました。
max_tokensを1や10のように非常に低い値に設定している可能性があります。このパラメータは、補完が100,000トークンのウィンドウの残りを自由に使用できるため、ここではオプションです。最も簡単な解決策はこれを削除することです。上限が必要な場合は、余裕を持って設定してください。 - stop. モデルは通常完了したか、あなたの
stopシーケンスのいずれかを生成しました。改行などのストップシーケンスは最初の改行で応答を停止させるため、モデルが空白行から始まる場合、何も表示されないことがあります。シーケンスを削除または緩和してください。 - tool_calls. 前のセクションを参照してください。
コンテキストオーバーフローはもう一つの長さの問題です。ウィンドウは100,000トークンで、プロンプトと補完を合計します。チャット履歴がこれをほぼ満たすほど成長すると、応答する余地がほとんどなくなります。古い会話を削除または要約してください。会話メモリと長いコンテキストウィンドウのページで履歴を制御する方法を確認できます。リクエストボディも8 MBを超えることはできません。
もう一つの小さな落とし穴:JSON モード。response_formatをjson_objectに設定する場合は、指示に「JSON」という単語を含め、期待する形式を記述してください。あいまいなプロンプトにJSON モードを組み合わせると、内容が薄く、あるいは些末な出力が生成され、キーを取り出すと空のように見えることがあります。
原因3:ストリーミングの読み取りが誤っている
SSEによるストリーミングは多くの小さなチャンクを送信します。すべてのチャンクにテキストが含まれるわけではありません。最初のチャンクには通常roleのみが含まれ、最後のコンテンツチャンクは空のdeltaを持つfinish_reasonを持ち、使用量を報告する最終チャンクは空のchoicesリストで到着する場合があります。すべてのチャンクでchoices[0]をインデックス化するコードはクラッシュし、テキストのないチャンクを全体の応答として扱うコードは何も出力しません。
from openai import OpenAI
client = OpenAI(base_url="https://api.unfilteredaiapi.com/v1", api_key="YOUR_KEY")
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Write two sentences about rain."}],
stream=True,
)
parts = []
for chunk in stream:
if not chunk.choices:
continue
delta = chunk.choices[0].delta
if delta.content:
parts.append(delta.content)
text = "".join(parts)
print(text if text else "[no content received]")
ストリームが空に見える原因として、環境の問題も2つあります。レスポンスをバッファリングするリバースプロキシやCDNを使用すると、すべてのチャンクが終了まで保持されるため、ブラウザでは長時間何も表示されず、その後一気にすべてが表示されるか、先にタイムアウトが発生します。プロキシのストリーミングルートのレスポンスバッファリングを無効にしてください。また、ストリームは終了まで同時実行数の枠を占有するため、放棄されたストリーム(タブの閉鎖や、close()の欠落など)は徐々に8枠の枠を消費します。次のリクエストはテキストではなく429エラーになります。サーバー全体の例については、SSEストリーミング対応のFastAPIバックエンドを参照してください。
原因4:クライアントが飲み込んだエラー
一部のHTTPラッパーは、200以外のステータスで例外を発生させるのではなく空文字列を返します。すべての失敗についてステータスコードとボディをログに記録してください。重要なケース:
| ステータスまたはコード | 意味 | 取るべき行動 |
|---|---|---|
429、rate_limited | フルキーでは1分あたり300リクエスト以上(トライアルキーでは60) | スローダウン、キューを追加 |
429、concurrency | フルキーでは同時に8リクエスト以上(トライアルキーでは2) | ワーカーを制限 |
429 と Retry-After: 5 | 一時的な過負荷 | 5秒待機して再試行 |
| 401 | 通常、キーの欠落または誤り | Authorization: Bearerヘッダーを確認してください |
| 404 | 通常、間違ったパスまたはベースURL | Base URLは/v1で終わる必要があります |
単純なリトライラッパーは数行で実装でき、まばらに発生する空白応答のクラスを排除します。
import time
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://api.unfilteredaiapi.com/v1", api_key="YOUR_KEY")
def ask(messages, tries=4):
for attempt in range(tries):
try:
r = client.chat.completions.create(model="uncensored", messages=messages)
return r.choices[0].message.content or ""
except RateLimitError as e:
wait = 5
retry_after = getattr(e.response, "headers", {}).get("retry-after")
if retry_after:
wait = int(retry_after)
time.sleep(wait)
raise RuntimeError("still limited after retries")
失敗または拒否されたリクエストは課金されません。そのため、リトライループで二重に課金されることはありません。失敗した呼び出しの前後でX-Balance-USDを比較することで確認できます。
原因5:間違ったエンドポイント、モデル、またはキー
大きなエラーではなく奇妙な結果を生み出す設定ミスの簡単なチェックリスト:
- ベースURLは
https://api.unfilteredaiapi.com/v1です。/v1の欠落や重複は、404レスポンスのボディを返す原因となり、寛容なクライアントではそれが空の返信として処理されることがあります。 - モデル名は
uncensoredで、正確にスペルする必要があります。他社カタログのモデル名を誤って設定することはよくあるミスです。 POST /v1/chat/completionsとGET /v1/modelsのみが存在します。レガシーなcompletionsエンドポイント、embeddings、画像ルートの利用はできないため、それらを呼び出すライブラリは有用な応答を受け取れません。- キーはBearerトークンとして送信され、envファイルからの余分な空白や引用符はありません。
接続テストとして、キーを付けてGET /v1/modelsを呼び出してください。モデルがリストされれば、ベースURLとキーは正しく、問題はリクエストボディにあります。比較用の最小限の動作するリクエストはクイックスタートに、アクセス、制限、請求に関する情報はFAQに記載されています。
次のインシデントを短縮するログ
サーバーが何を送信したかを誰も記録していないため、空のレスポンスは後からデバッグするのが困難です。ログを数行追加するだけで、謎の調査が単純な検索に変わります。
- 成功・失敗を問わず、すべての呼び出しに対して
X-Request-Idレスポンスヘッダーをログに記録してください。 finish_reason、usageのカウント、および返されたテキストの長さをログに記録します。- ストリーミングの場合、受信したチャンク数とテキストを含むチャンクの数をログに記録します。テキストを伴うチャンクがゼロで終了理由が通常の場合は、パーサーの問題を示します。チャンクが全くない場合は、ネットワークまたはプロキシの問題を示します。
- 単一の事象ではなく、空のレスポンスと総呼び出し数の比率でアラートを設定してください。1000回に1回の空白はノイズです。5%はバグです。
失敗した呼び出しと成功した呼び出しを比較する際は、まずリクエストボディの差分を確認してください。システムプロンプトの変更、stopリストの追加、max_tokensの縮小、モデル名の交換が、ほとんどの後退の原因となります。個人データを削除した上で、サンプルとなる呼び出しのリクエストボディをログに記録してください。
複数のユーザーが同時に空白のレスポンスを報告し、curlテストでも失敗する場合、原因はあなたのコードではない可能性があります。まずRetry-After付きの429ステータスを確認してください。一時的な過負荷は通常この方法でシグナルが送られるため、指定された遅延後に再試行します。curlテストは成功するがアプリが失敗する場合、上記のセクションに従ってクライアント側から調査してください。
レスポンスが空ではなく短い場合
時には、ページ全体を期待していたのに1行の回答しか得られないことがあります。これはトランスポートの問題よりもプロンプティングの問題です。望む長さと形式(「少なくとも400語、3つの段落で」)を指示し、その指示をシステムメッセージに含めてください。モデルが簡潔な場合、temperatureを少し上げてください。このモデルは合法的な成人利用のためにコンテンツ拒否なしで回答するように調整されているため、短い回答は拒否であることは稀で、多くの場合はリクエストの指定不足です。未成年者を含む性的コンテンツは唯一の厳格な制限であり、常に拒否されます。
まだ解決しない場合は、失敗したレスポンスのX-Request-Id、おおよその時刻、キーを含まないリクエストボディをサポートに送信してください。これにより、正確な呼び出しを特定できます。サービスが初めての場合、キーページに無料トライアルクレジットの受け取り方法が記載されており、デバッグ用の数十回の呼び出しに十分なクレジットが付与されます。
その他のガイド
質問と回答
なぜmessage.contentがnullなのか?
多くの場合、モデルがテキストの代わりにtool_callsを返したか、ストリーミングの読み取りが正しくありません。エラーとして扱う前に、メッセージのfinish_reasonとtool_callsを確認してください。
空のレスポンスは課金されるのか?
失敗または拒否されたリクエストは課金されません。呼び出しが成功しトークンが生成された場合、使用量カウントが表示され、ヘッダーのX-Balance-USDで残高を確認できます。
コンテキストウィンドウのフル利用が空白出力の原因になるのか?
はい。プロンプトと補完で100,000トークンを共有するため、履歴がほぼ満杯だと回答の余地がほとんどまたは全くなくなります。以前の会話を切り捨てまたは要約してください。
ストリームが何も表示せず、その後一気にすべて表示されるのはなぜか?
プロキシまたはCDNがSSEレスポンスをバッファリングしている可能性があります。そのルートでバッファリングを無効にし、チャンクが到着次第通過するようにしてください。