LLM API 响应为空?原因与修复
当 LLM API 响应出现空错误时,服务器通常已返回响应,空字符串源于读取回复的方式。以下是按出现频率排序的检查清单。
已更新Unfiltered AI

要点
- 首先打印原始 JSON。大多数空回复是解析问题,而非服务中断。
- 检查 finish_reason:length、stop 和 tool_calls 均会导致 content 字段为空。
- 在流式中,防御性地读取 delta.content,并跳过没有 choices 的块。
- 429 错误或缓冲 SSE 的代理在某些客户端中可能看起来像空答案。
首先查看原始响应
在更改任何设置之前,捕获返回的确切内容。包装库会隐藏原因:裸代码 print(response.choices[0].message.content) 会显示 None 或空字符串,无论主体是空的、包含工具调用、因长度限制结束还是未到达。
使用 curl 以避免客户端代码干扰,并使用 -i 包含响应头:
curl -i https://api.unfilteredaiapi.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Say hello in five words."}]
}'
在结果中读取三个内容。首先,状态行:200 表示生成了补全,429 表示触发了限制,401 等认证错误通常指向密钥问题。其次,choices[0].finish_reason。第三,响应头,特别是 X-Request-Id(联系 support 时请保留它)和 X-Balance-USD,后者显示账户是否仍有额度。如果此 curl 调用返回文本,则服务正常,问题出在你的客户端。如果返回错误主体,则已找到原因。
原因 1:消息包含工具调用而非文本
如果你传递了 tools 且模型决定调用其中一个,助手消息将包含 tool_calls,其 content 为 null 或空。仅读取 content 的代码会看到空回复。修复方法是先检查工具调用,运行函数,将结果作为角色为 role: "tool" 的消息追加,然后再次调用 API。
from openai import OpenAI
client = OpenAI(base_url="https://api.unfilteredaiapi.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "What is the weather in Oslo?"}],
tools=[{
"type": "function",
"function": {
"name": "get_weather",
"description": "Get current weather for a city",
"parameters": {
"type": "object",
"properties": {"city": {"type": "string"}},
"required": ["city"],
},
},
}],
)
msg = resp.choices[0].message
if msg.tool_calls:
print("tool call:", msg.tool_calls[0].function.name, msg.tool_calls[0].function.arguments)
else:
print(msg.content)
如果你无意提供工具,请移除 tools 和 tool_choice 字段。来自早期实验的遗留工具定义是文本为空的常见原因。
原因 2:回复被截断或未开始
finish_reason 解释了其余大部分情况。
- length. 补全达到了 token 上限。你可能将
max_tokens设置得很低,例如 1 或 10。此处该参数是可选的,因为补全可以使用 100,000 个 token 窗口中剩余的任何空间,因此最简单的修复方法是将其删除。如果需要上限,请设置足够的余量。 - stop. 模型正常结束,或生成了你的
stop字符串。如换行符这样的停止序列会在第一个换行符处停止回复,如果模型以空行开头,这可能导致你一无所获。移除或放宽该序列。 - tool_calls. 参见上一节。
上下文溢出是另一种长度问题。窗口为 100,000 个 token,计算提示词和补全的总和。如果聊天记录增长到几乎填满窗口,几乎就没有空间来回答。精简旧轮次或对其进行总结。对话记忆和长上下文窗口页面展示了控制历史记录的方法。请求体也不能超过 8 MB。
另一个小陷阱:JSON 模式。当 response_format 设置为 json_object 时,请在指令中包含单词 JSON 并描述你想要的结构。模糊的提示词加上 JSON 模式会产生稀薄或琐碎的输出,一旦从中提取密钥,看起来就像空的。
原因 3:流式读取方式错误
通过 SSE 进行的流式输出发送许多小块。并非每个块都包含文本。第一个块通常只有 role,最后一个内容块携带带有空 delta 的 finish_reason,报告用量的最终块可能带有空的 choices 列表。在每个块上索引 choices[0] 的代码会崩溃,将没有文本的块视为完整答案的代码将不打印任何内容。
from openai import OpenAI
client = OpenAI(base_url="https://api.unfilteredaiapi.com/v1", api_key="YOUR_KEY")
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Write two sentences about rain."}],
stream=True,
)
parts = []
for chunk in stream:
if not chunk.choices:
continue
delta = chunk.choices[0].delta
if delta.content:
parts.append(delta.content)
text = "".join(parts)
print(text if text else "[no content received]")
两个环境问题也看起来像空流。缓冲响应的反向代理或 CDN 会保留所有块直到结束,因此浏览器长时间看不到任何内容,然后一次性看到所有内容,或者先触发超时。在代理中关闭流式路由的响应缓冲。此外,流会占用其并发槽位直到结束,因此被放弃的流(关闭的标签页、缺失的 close())会逐渐耗尽你的 8 个槽位。下一个请求将收到 429 而非文本。完整服务器示例见 带有 SSE 流式输出的 FastAPI 后端。
原因 4:你的客户端吞没了错误
某些 HTTP 包装器在非 200 状态时返回空字符串而不是抛出异常。记录每次失败的状态码和主体。需要注意的情况:
| 状态或代码 | 含义 | 该做什么 |
|---|---|---|
429, rate_limited | 完整密钥每分钟超过 300 次请求(试用版为 60) | 减慢速度,添加队列 |
429, concurrency | 完整密钥同时超过 8 个请求(试用版为 2) | 限制你的 worker |
429 伴随 Retry-After: 5 | 临时过载 | 等待 5 秒并重试 |
| 401 | 通常是密钥缺失或错误 | 检查 Authorization: Bearer 头 |
| 404 | 通常是路径或 Base URL 错误 | Base URL 必须以 /v1 结尾 |
简单的重试包装器只需几行代码,即可消除一类间歇性空白:
import time
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://api.unfilteredaiapi.com/v1", api_key="YOUR_KEY")
def ask(messages, tries=4):
for attempt in range(tries):
try:
r = client.chat.completions.create(model="uncensored", messages=messages)
return r.choices[0].message.content or ""
except RateLimitError as e:
wait = 5
retry_after = getattr(e.response, "headers", {}).get("retry-after")
if retry_after:
wait = int(retry_after)
time.sleep(wait)
raise RuntimeError("still limited after retries")
失败或被拒绝的请求不收费,因此重试循环不会让你支付两次费用。你可以通过比较失败调用前后的 X-Balance-USD 来确认。
原因 5:错误的端点、模型或密钥
导致奇怪结果而非明显错误的配置错误简短清单:
- Base URL 为
https://api.unfilteredaiapi.com/v1。缺少/v1或重复会导致 404 主体,宽容的客户端会将其转为空回复。 - 模型名称为
uncensored,拼写完全一致。设置来自其他提供商目录的模型是常见的复制粘贴错误。 - 仅存在
POST /v1/chat/completions和GET /v1/models。旧的补全接口、嵌入和图像路由不可用,因此调用它们的库将得不到有用的返回。 - 密钥作为 Bearer 令牌发送,且没有来自 env 文件的多余空格或引号。
使用密钥调用 GET /v1/models 作为连通性测试。如果它列出了模型,则基础 URL 和密钥正确,问题出在请求体中。快速入门 提供了可比较的最小工作请求,FAQ 涵盖了访问、限制和计费。
缩短下次故障排查时间的日志记录
事后很难调试空回复,因为没有人记录服务器发送的内容。几行日志就能将谜团变为可查询的记录。
- 对每次调用(无论成功与否)都记录
X-Request-Id响应头。 - 记录
finish_reason、usage计数以及返回文本的长度。 - 对于流式输出,记录接收到的块数量以及包含文本的块数量。零个文本块且正常结束指向你的解析器问题。零个块指向网络或代理问题。
- 监控空回复与总调用量的比率,而不是单个事件。一千次调用中的一次空白是噪声。百分之五则是 bug。
当你对比失败调用和成功调用时,首先对比请求体。系统提示词的变化、stop 列表的添加、max_tokens 的减小或模型名称的替换解释了大多数回归问题。在移除任何个人数据后,将请求体记录在日志中作为调用样本。
如果多个用户同时报告空白回复,且你的 curl 测试也失败,原因可能不是你的代码。首先检查带有 Retry-After 的 429 状态码,因为临时过载会通过这种方式进行信号通知,并在指定的延迟后重试。如果 curl 测试成功但你的应用失败,请从客户端侧开始,使用上述章节进行排查。
如果回复较短而非为空
有时症状是只有一行答案,而你希望得到一整页内容。这是提示词问题,而非传输问题。请指定你想要的长度和格式(例如“至少 400 字,分三段”),将指令放入系统提示词中,如果模型回答过于简略,可适当调高 temperature。该模型针对合法成人用途进行了调整,可无内容拒绝地回答,因此简短回复很少是因为拒绝;更多是因为请求未明确。涉及未成年人的性内容是唯一的硬性限制,且始终会被拒绝。
仍然卡住?向支持团队发送失败回复中的 X-Request-Id、大致时间以及不包含你密钥的请求体。这能让支持人员找到确切的调用。如果你是新用户,密钥页面 有免费试用额度领取,足以进行数十次调试调用。
更多指南
问答
为什么 message.content 为 null?
大多数情况下,模型返回了 tool_calls 而非文本,或者流读取不正确。在将其视为错误之前,检查消息上的 finish_reason 和 tool_calls。
空回复会收费吗?
失败或被拒绝的请求不会收费。如果调用成功并生成了 token,你将看到用量计数,且响应头中的 X-Balance-USD 会显示你的余额。
完整的上下文窗口会导致空白输出吗?
是的。提示词和补全共享 100,000 个 token,因此几乎满的历史记录会留下很少或没有空间用于回答。修剪或总结之前的轮次。
为什么我的流式输出先显示无内容,然后一次性显示所有内容?
代理或 CDN 可能正在缓冲 SSE 响应。禁用该路由的缓冲,以便块按到达顺序通过。