中文 ▾

unfilteredaiapi.comhttps://api.unfilteredaiapi.com/v1

Unfiltered AI

面向开发者的原始无审查 LLM API。

Unfiltered AI获取 API 密钥

LLM API 响应为空?原因与修复

当 LLM API 响应出现空错误时,服务器通常已返回响应,空字符串源于读取回复的方式。以下是按出现频率排序的检查清单。

数据流经玻璃管道指向空白的对话气泡,透镜揭示隐藏的分支

要点

  • 首先打印原始 JSON。大多数空回复是解析问题,而非服务中断。
  • 检查 finish_reason:length、stop 和 tool_calls 均会导致 content 字段为空。
  • 在流式中,防御性地读取 delta.content,并跳过没有 choices 的块。
  • 429 错误或缓冲 SSE 的代理在某些客户端中可能看起来像空答案。

首先查看原始响应

在更改任何设置之前,捕获返回的确切内容。包装库会隐藏原因:裸代码 print(response.choices[0].message.content) 会显示 None 或空字符串,无论主体是空的、包含工具调用、因长度限制结束还是未到达。

使用 curl 以避免客户端代码干扰,并使用 -i 包含响应头:

curl -i https://api.unfilteredaiapi.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Say hello in five words."}]
  }'

在结果中读取三个内容。首先,状态行:200 表示生成了补全,429 表示触发了限制,401 等认证错误通常指向密钥问题。其次,choices[0].finish_reason。第三,响应头,特别是 X-Request-Id(联系 support 时请保留它)和 X-Balance-USD,后者显示账户是否仍有额度。如果此 curl 调用返回文本,则服务正常,问题出在你的客户端。如果返回错误主体,则已找到原因。

原因 1:消息包含工具调用而非文本

如果你传递了 tools 且模型决定调用其中一个,助手消息将包含 tool_calls,其 content 为 null 或空。仅读取 content 的代码会看到空回复。修复方法是先检查工具调用,运行函数,将结果作为角色为 role: "tool" 的消息追加,然后再次调用 API。

from openai import OpenAI

client = OpenAI(base_url="https://api.unfilteredaiapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "What is the weather in Oslo?"}],
    tools=[{
        "type": "function",
        "function": {
            "name": "get_weather",
            "description": "Get current weather for a city",
            "parameters": {
                "type": "object",
                "properties": {"city": {"type": "string"}},
                "required": ["city"],
            },
        },
    }],
)

msg = resp.choices[0].message
if msg.tool_calls:
    print("tool call:", msg.tool_calls[0].function.name, msg.tool_calls[0].function.arguments)
else:
    print(msg.content)

如果你无意提供工具,请移除 tools 和 tool_choice 字段。来自早期实验的遗留工具定义是文本为空的常见原因。

原因 2:回复被截断或未开始

finish_reason 解释了其余大部分情况。

  • length. 补全达到了 token 上限。你可能将 max_tokens 设置得很低,例如 1 或 10。此处该参数是可选的,因为补全可以使用 100,000 个 token 窗口中剩余的任何空间,因此最简单的修复方法是将其删除。如果需要上限,请设置足够的余量。
  • stop. 模型正常结束,或生成了你的 stop 字符串。如换行符这样的停止序列会在第一个换行符处停止回复,如果模型以空行开头,这可能导致你一无所获。移除或放宽该序列。
  • tool_calls. 参见上一节。

上下文溢出是另一种长度问题。窗口为 100,000 个 token,计算提示词和补全的总和。如果聊天记录增长到几乎填满窗口,几乎就没有空间来回答。精简旧轮次或对其进行总结。对话记忆和长上下文窗口页面展示了控制历史记录的方法。请求体也不能超过 8 MB。

另一个小陷阱:JSON 模式。当 response_format 设置为 json_object 时,请在指令中包含单词 JSON 并描述你想要的结构。模糊的提示词加上 JSON 模式会产生稀薄或琐碎的输出,一旦从中提取密钥,看起来就像空的。

原因 3:流式读取方式错误

通过 SSE 进行的流式输出发送许多小块。并非每个块都包含文本。第一个块通常只有 role,最后一个内容块携带带有空 delta 的 finish_reason,报告用量的最终块可能带有空的 choices 列表。在每个块上索引 choices[0] 的代码会崩溃,将没有文本的块视为完整答案的代码将不打印任何内容。

from openai import OpenAI

client = OpenAI(base_url="https://api.unfilteredaiapi.com/v1", api_key="YOUR_KEY")

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Write two sentences about rain."}],
    stream=True,
)

parts = []
for chunk in stream:
    if not chunk.choices:
        continue
    delta = chunk.choices[0].delta
    if delta.content:
        parts.append(delta.content)

text = "".join(parts)
print(text if text else "[no content received]")

两个环境问题也看起来像空流。缓冲响应的反向代理或 CDN 会保留所有块直到结束,因此浏览器长时间看不到任何内容,然后一次性看到所有内容,或者先触发超时。在代理中关闭流式路由的响应缓冲。此外,流会占用其并发槽位直到结束,因此被放弃的流(关闭的标签页、缺失的 close())会逐渐耗尽你的 8 个槽位。下一个请求将收到 429 而非文本。完整服务器示例见 带有 SSE 流式输出的 FastAPI 后端。

原因 4:你的客户端吞没了错误

某些 HTTP 包装器在非 200 状态时返回空字符串而不是抛出异常。记录每次失败的状态码和主体。需要注意的情况:

状态或代码含义该做什么
429, rate_limited完整密钥每分钟超过 300 次请求(试用版为 60)减慢速度,添加队列
429, concurrency完整密钥同时超过 8 个请求(试用版为 2)限制你的 worker
429 伴随 Retry-After: 5临时过载等待 5 秒并重试
401通常是密钥缺失或错误检查 Authorization: Bearer 头
404通常是路径或 Base URL 错误Base URL 必须以 /v1 结尾

简单的重试包装器只需几行代码,即可消除一类间歇性空白:

import time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://api.unfilteredaiapi.com/v1", api_key="YOUR_KEY")

def ask(messages, tries=4):
    for attempt in range(tries):
        try:
            r = client.chat.completions.create(model="uncensored", messages=messages)
            return r.choices[0].message.content or ""
        except RateLimitError as e:
            wait = 5
            retry_after = getattr(e.response, "headers", {}).get("retry-after")
            if retry_after:
                wait = int(retry_after)
            time.sleep(wait)
    raise RuntimeError("still limited after retries")

失败或被拒绝的请求不收费,因此重试循环不会让你支付两次费用。你可以通过比较失败调用前后的 X-Balance-USD 来确认。

原因 5:错误的端点、模型或密钥

导致奇怪结果而非明显错误的配置错误简短清单:

  1. Base URL 为 https://api.unfilteredaiapi.com/v1。缺少 /v1 或重复会导致 404 主体,宽容的客户端会将其转为空回复。
  2. 模型名称为 uncensored,拼写完全一致。设置来自其他提供商目录的模型是常见的复制粘贴错误。
  3. 仅存在 POST /v1/chat/completions 和 GET /v1/models。旧的补全接口、嵌入和图像路由不可用,因此调用它们的库将得不到有用的返回。
  4. 密钥作为 Bearer 令牌发送,且没有来自 env 文件的多余空格或引号。

使用密钥调用 GET /v1/models 作为连通性测试。如果它列出了模型,则基础 URL 和密钥正确,问题出在请求体中。快速入门 提供了可比较的最小工作请求,FAQ 涵盖了访问、限制和计费。

缩短下次故障排查时间的日志记录

事后很难调试空回复,因为没有人记录服务器发送的内容。几行日志就能将谜团变为可查询的记录。

  1. 对每次调用(无论成功与否)都记录 X-Request-Id 响应头。
  2. 记录 finish_reason、usage 计数以及返回文本的长度。
  3. 对于流式输出,记录接收到的块数量以及包含文本的块数量。零个文本块且正常结束指向你的解析器问题。零个块指向网络或代理问题。
  4. 监控空回复与总调用量的比率,而不是单个事件。一千次调用中的一次空白是噪声。百分之五则是 bug。

当你对比失败调用和成功调用时,首先对比请求体。系统提示词的变化、stop 列表的添加、max_tokens 的减小或模型名称的替换解释了大多数回归问题。在移除任何个人数据后,将请求体记录在日志中作为调用样本。

如果多个用户同时报告空白回复,且你的 curl 测试也失败,原因可能不是你的代码。首先检查带有 Retry-After 的 429 状态码,因为临时过载会通过这种方式进行信号通知,并在指定的延迟后重试。如果 curl 测试成功但你的应用失败,请从客户端侧开始,使用上述章节进行排查。

如果回复较短而非为空

有时症状是只有一行答案,而你希望得到一整页内容。这是提示词问题,而非传输问题。请指定你想要的长度和格式(例如“至少 400 字,分三段”),将指令放入系统提示词中,如果模型回答过于简略,可适当调高 temperature。该模型针对合法成人用途进行了调整,可无内容拒绝地回答,因此简短回复很少是因为拒绝;更多是因为请求未明确。涉及未成年人的性内容是唯一的硬性限制,且始终会被拒绝。

仍然卡住?向支持团队发送失败回复中的 X-Request-Id、大致时间以及不包含你密钥的请求体。这能让支持人员找到确切的调用。如果你是新用户,密钥页面 有免费试用额度领取,足以进行数十次调试调用。

问答

为什么 message.content 为 null?

大多数情况下,模型返回了 tool_calls 而非文本,或者流读取不正确。在将其视为错误之前,检查消息上的 finish_reason 和 tool_calls。

空回复会收费吗?

失败或被拒绝的请求不会收费。如果调用成功并生成了 token,你将看到用量计数,且响应头中的 X-Balance-USD 会显示你的余额。

完整的上下文窗口会导致空白输出吗?

是的。提示词和补全共享 100,000 个 token,因此几乎满的历史记录会留下很少或没有空间用于回答。修剪或总结之前的轮次。

为什么我的流式输出先显示无内容,然后一次性显示所有内容?

代理或 CDN 可能正在缓冲 SSE 响应。禁用该路由的缓冲,以便块按到达顺序通过。

只差一张表单,即可获得密钥

创建账户,复制密钥,更改基础 URL。这就是全部设置。

获取 API 密钥阅读文档