VI ▾

unfilteredaiapi.comhttps://api.unfilteredaiapi.com/v1

Unfiltered AI

API LLM thô, không kiểm duyệt dành cho nhà phát triển.

Unfiltered AILấy khóa API

Phản hồi API LLM trống? Nguyên nhân và cách khắc phục

Khi lỗi phản hồi API LLM trống xuất hiện, máy chủ thường đã trả lời và chuỗi trống đến từ cách bạn đọc phản hồi. Dưới đây là danh sách kiểm tra, sắp xếp theo tần suất xuất hiện của từng nguyên nhân.

Dữ liệu chảy qua một ống thủy tinh hướng về bong bóng lời thoại trống, với một thấu kính hé lộ một nhánh ẩn

Điểm chính

  • Hãy in JSON thô ra trước. Hầu hết các phản hồi trống là do lỗi phân tích cú pháp, không phải do sự cố hệ thống.
  • Kiểm tra finish_reason: length, stop và tool_calls đều giải thích cho trường content trống.
  • Trong streaming, hãy đọc delta.content một cách an toàn và bỏ qua các chunk không có choices.
  • Lỗi 429 hoặc proxy đệm SSE có thể trông giống như một câu trả lời trống trong một số client.

Bắt đầu bằng cách xem phản hồi thô

Trước khi thay đổi bất kỳ cài đặt nào, hãy ghi lại chính xác những gì nhận được. Các thư viện wrapper ẩn nguyên nhân: một lệnh print(response.choices[0].message.content) đơn giản hiển thị None hoặc một chuỗi rỗng dù thân phản hồi trống, chứa lệnh gọi công cụ, bị giới hạn độ dài hoặc chưa bao giờ đến.

Sử dụng curl để không có mã máy khách nào cản trở, và bao gồm các tiêu đề với -i:

curl -i https://api.unfilteredaiapi.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Say hello in five words."}]
  }'

Đọc ba điều trong kết quả. Đầu tiên, dòng trạng thái: 200 có nghĩa là một phần hoàn thành đã được tạo, 429 có nghĩa là đã đạt giới hạn, lỗi xác thực như 401 thường chỉ ra vấn đề với khóa. Thứ hai, choices[0].finish_reason. Thứ ba, các tiêu đề phản hồi, đặc biệt là X-Request-Id (giữ lại nếu bạn liên hệ hỗ trợ) và X-Balance-USD, cho biết tài khoản vẫn còn tín dụng hay không. Nếu lệnh gọi curl này trả về văn bản, dịch vụ đang hoạt động và vấn đề nằm ở máy khách của bạn. Nếu nó trả về thân lỗi, bạn đã có nguyên nhân.

Nguyên nhân 1: message chứa tool call thay vì văn bản

Nếu bạn truyền tools và mô hình quyết định gọi một hàm, tin nhắn trợ lý sẽ có tool_calls và content của nó là null hoặc rỗng. Mã chỉ đọc content sẽ thấy một phản hồi trống. Cách sửa là kiểm tra lệnh gọi hàm trước, chạy hàm, thêm kết quả dưới dạng tin nhắn với role: "tool", và gọi lại API.

from openai import OpenAI

client = OpenAI(base_url="https://api.unfilteredaiapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "What is the weather in Oslo?"}],
    tools=[{
        "type": "function",
        "function": {
            "name": "get_weather",
            "description": "Get current weather for a city",
            "parameters": {
                "type": "object",
                "properties": {"city": {"type": "string"}},
                "required": ["city"],
            },
        },
    }],
)

msg = resp.choices[0].message
if msg.tool_calls:
    print("tool call:", msg.tool_calls[0].function.name, msg.tool_calls[0].function.arguments)
else:
    print(msg.content)

Nếu bạn không muốn cung cấp các hàm, hãy xóa các trường tools và tool_choice. Một định nghĩa hàm còn sót lại từ một thử nghiệm trước đó là lý do phổ biến cho văn bản trống.

Nguyên nhân 2: phản hồi bị cắt ngang hoặc chưa bắt đầu

finish_reason giải thích phần lớn những gì còn lại.

  • length. Phần hoàn thành đã chạm giới hạn token. Bạn có thể đã đặt max_tokens rất thấp, chẳng hạn như 1 hoặc 10. Tham số này là tùy chọn ở đây, vì phần hoàn thành có thể sử dụng bất kỳ token nào còn lại trong cửa sổ 100.000 token, nên cách sửa đơn giản nhất là bỏ nó đi. Nếu bạn cần giới hạn, hãy đặt nó với một khoảng trống lớn.
  • stop. Mô hình đã kết thúc bình thường, hoặc nó tạo ra một trong các chuỗi stop của bạn. Một chuỗi dừng như ký tự xuống dòng sẽ dừng phản hồi tại dấu ngắt dòng đầu tiên, điều này có thể khiến bạn không có gì nếu mô hình bắt đầu bằng một dòng trống. Hãy xóa hoặc nới lỏng chuỗi.
  • tool_calls. Xem phần trước.

Vượt quá ngữ cảnh là vấn đề độ dài khác. Cửa sổ là 100.000 token, tính cả prompt và phần hoàn thành cùng nhau. Nếu lịch sử trò chuyện đã phát triển đến mức gần như lấp đầy nó, sẽ gần như không còn chỗ nào để trả lời. Hãy cắt giảm các lượt cũ hoặc tóm tắt chúng. Trang về nhớ hội thoại và cửa sổ ngữ cảnh dài cho thấy các cách để giữ lịch sử trong tầm kiểm soát. Thân yêu cầu cũng không thể vượt quá 8 MB.

Một bẫy nhỏ nữa: chế độ JSON. Khi response_format được đặt thành json_object, bạn hãy bao gồm từ JSON trong hướng dẫn và mô tả hình dạng bạn muốn. Một prompt mơ hồ kết hợp chế độ JSON tạo ra kết quả mỏng hoặc tầm thường, trông như rỗng khi bạn trích xuất một khóa từ đó.

Nguyên nhân 3: stream được đọc sai

Truyền phát qua SSE gửi nhiều mảnh nhỏ. Không phải mọi mảnh đều chứa văn bản. Mảnh đầu tiên thường chỉ có vai trò, mảnh nội dung cuối cùng mang một finish_reason với delta rỗng, và mảnh cuối cùng báo cáo việc sử dụng có thể đến với một danh sách choices rỗng. Mã lập chỉ mục choices[0] trên mọi mảnh sẽ bị lỗi, và mã xử lý một mảnh không có văn bản như câu trả lời đầy đủ sẽ không in ra gì.

from openai import OpenAI

client = OpenAI(base_url="https://api.unfilteredaiapi.com/v1", api_key="YOUR_KEY")

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Write two sentences about rain."}],
    stream=True,
)

parts = []
for chunk in stream:
    if not chunk.choices:
        continue
    delta = chunk.choices[0].delta
    if delta.content:
        parts.append(delta.content)

text = "".join(parts)
print(text if text else "[no content received]")

Hai vấn đề môi trường cũng trông giống như các luồng trống. Một proxy ngược hoặc CDN đệm phản hồi sẽ giữ tất cả các mảnh cho đến cuối, nên trình duyệt sẽ không thấy gì trong một thời gian dài và sau đó thấy tất cả cùng một lúc, hoặc thời gian chờ sẽ kích hoạt trước. Hãy tắt đệm phản hồi cho tuyến truyền phát trong proxy của bạn. Và một luồng chiếm khe đồng thời của nó cho đến khi kết thúc, nên các luồng bị bỏ rơi (một tab đóng, một close() bị thiếu) sẽ dần dần sử dụng hết 8 khe của bạn. Yêu cầu tiếp theo sau đó sẽ nhận được 429 thay vì văn bản. Để xem một ví dụ máy chủ đầy đủ, hãy xem backend FastAPI với truyền phát SSE.

Nguyên nhân 4: lỗi mà client của bạn đã nuốt chửng

Một số trình bao bọc HTTP trả về chuỗi rỗng khi trạng thái không phải 200 thay vì ném lỗi. Hãy ghi lại mã trạng thái và thân phản hồi cho mọi lỗi. Các trường hợp quan trọng:

Trạng thái hoặc mãÝ nghĩaNhững việc cần làm
429, rate_limitedHơn 300 yêu cầu mỗi phút trên khóa đầy (60 trên bản dùng thử)Giảm tốc độ, thêm hàng đợi
429, concurrencyHơn 8 yêu cầu cùng lúc trên khóa đầy (2 trên bản dùng thử)Giới hạn worker của bạn
429 với Retry-After: 5Quá tải tạm thờiChờ 5 giây và thử lại
401Thường là do thiếu hoặc khóa saiKiểm tra tiêu đề Authorization: Bearer
404Thường là đường dẫn hoặc base URL saiURL cơ bản phải kết thúc bằng /v1

Một wrapper retry đơn giản chỉ tốn vài dòng và loại bỏ một lớp lỗi trống không đều:

import time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://api.unfilteredaiapi.com/v1", api_key="YOUR_KEY")

def ask(messages, tries=4):
    for attempt in range(tries):
        try:
            r = client.chat.completions.create(model="uncensored", messages=messages)
            return r.choices[0].message.content or ""
        except RateLimitError as e:
            wait = 5
            retry_after = getattr(e.response, "headers", {}).get("retry-after")
            if retry_after:
                wait = int(retry_after)
            time.sleep(wait)
    raise RuntimeError("still limited after retries")

Các yêu cầu bị lỗi hoặc bị từ chối không bị tính phí, vì vậy một vòng lặp thử lại không làm bạn tốn gấp đôi. Bạn có thể xác nhận bằng cách so sánh X-Balance-USD trước và sau một lệnh gọi thất bại.

Nguyên nhân 5: endpoint, mô hình hoặc khóa sai

Một danh sách kiểm tra ngắn gọn về các lỗi cấu hình tạo ra kết quả kỳ lạ thay vì lỗi lớn:

  1. URL cơ bản là https://api.unfilteredaiapi.com/v1. Việc thiếu /v1 hoặc bị nhân đôi có thể tạo ra thân 404 mà một máy khách linh hoạt biến thành một phản hồi trống.
  2. Tên mô hình là uncensored, viết chính xác. Việc đặt một mô hình từ danh mục của nhà cung cấp khác là một lỗi sao chép-dán phổ biến.
  3. Chỉ có POST /v1/chat/completions và GET /v1/models tồn tại. Endpoint completions cũ, embeddings và các tuyến hình ảnh không khả dụng, vì vậy một thư viện gọi chúng sẽ không nhận được gì hữu ích.
  4. Khóa được gửi dưới dạng Bearer token và không có khoảng trắng hoặc dấu ngoặc kép thừa từ tệp env.

Gọi GET /v1/models với khóa của bạn để kiểm tra kết nối. Nếu nó liệt kê mô hình, base URL và khóa đều đúng và vấn đề nằm ở thân yêu cầu. Hướng dẫn nhanh có yêu cầu hoạt động tối thiểu để so sánh, và FAQ bao gồm truy cập, giới hạn và thanh toán.

Ghi log giúp rút ngắn thời gian xử lý sự cố tiếp theo

Các phản hồi trống khó gỡ lỗi sau này vì không ai ghi lại những gì máy chủ đã gửi. Một vài dòng ghi log sẽ biến một bí ẩn thành việc tra cứu.

  1. Ghi lại tiêu đề phản hồi X-Request-Id cho mọi lệnh gọi, thành công hay không.
  2. Ghi lại finish_reason, các số liệu usage và độ dài của văn bản được trả về.
  3. Đối với streaming, hãy ghi lại số lượng chunk đã nhận và số lượng chunk chứa văn bản. Không có chunk nào chứa văn bản nhưng kết thúc bình thường cho thấy lỗi trình phân tích cú pháp của bạn. Không có chunk nào cho thấy vấn đề về mạng hoặc proxy.
  4. Cảnh báo dựa trên tỷ lệ phản hồi trống trên tổng số lệnh gọi, không phải dựa trên các sự kiện đơn lẻ. Một phản hồi trống trên một nghìn là nhiễu. Năm phần trăm là lỗi.

Khi bạn so sánh một lệnh gọi bị lỗi với một lệnh gọi hoạt động, hãy so sánh thân yêu cầu trước. Một system prompt thay đổi, một danh sách stop được thêm vào, max_tokens nhỏ hơn hoặc tên mô hình bị thay thế giải thích hầu hết các lỗi suy giảm hiệu năng. Hãy đưa thân yêu cầu vào nhật ký cho một mẫu các lệnh gọi, sau khi loại bỏ mọi dữ liệu cá nhân.

Nếu nhiều người dùng báo cáo các phản hồi trống cùng lúc và lệnh kiểm tra curl của bạn cũng thất bại, nguyên nhân có thể không nằm ở mã của bạn. Hãy kiểm tra mã 429 với tiêu đề Retry-After trước, vì tình trạng quá tải tạm thời được báo hiệu theo cách này, và hãy thử lại sau độ trễ được chỉ định. Nếu lệnh kiểm tra curl hoạt động nhưng ứng dụng của bạn thất bại, hãy xử lý từ phía máy khách bằng các phần hướng dẫn ở trên.

Nếu phản hồi ngắn thay vì trống

Đôi khi triệu chứng là một câu trả lời một dòng khi bạn muốn một trang. Đó là vấn đề về prompt hơn là vấn đề truyền tải. Hãy yêu cầu độ dài và hình thức bạn muốn ("ít nhất 400 từ, chia thành ba đoạn"), đặt hướng dẫn vào thông báo hệ thống và tăng temperature một chút nếu mô hình đang trả lời ngắn gọn. Mô hình được tinh chỉnh để trả lời mà không từ chối nội dung cho mục đích người lớn hợp pháp, vì vậy một câu trả lời ngắn hiếm khi là từ chối; nó thường là do yêu cầu chưa được xác định rõ. Nội dung tình dục liên quan đến người chưa thành niên là giới hạn cứng duy nhất và luôn bị từ chối.

Vẫn gặp sự cố? Hãy gửi cho bộ phận hỗ trợ X-Request-Id từ phản hồi thất bại, thời gian ước tính và thân yêu cầu không chứa khóa của bạn. Điều đó giúp ai đó tìm ra cuộc gọi chính xác. Nếu bạn mới sử dụng dịch vụ, trang khóa có phần nhận tín dụng dùng thử, đủ cho hàng chục cuộc gọi gỡ lỗi.

Hỏi đáp

Tại sao message.content lại là null?

Phổ biến nhất là mô hình đã trả về tool_calls thay vì văn bản, hoặc việc truyền phát (streaming) được đọc không chính xác. Hãy kiểm tra finish_reason và tool_calls trên tin nhắn trước khi coi đó là lỗi.

Một phản hồi trống có tốn tiền không?

Các yêu cầu bị lỗi hoặc bị từ chối sẽ không bị tính phí. Nếu một lệnh gọi thành công và tạo ra token, bạn sẽ thấy các số liệu sử dụng, và X-Balance-USD trong các tiêu đề cho biết số dư của bạn.

Một cửa sổ ngữ cảnh đầy có thể gây ra đầu ra trống không?

Có. Prompt và phần hoàn thành chia sẻ 100.000 token, vì vậy lịch sử gần như đầy sẽ để lại rất ít hoặc không còn chỗ cho câu trả lời. Hãy cắt ngắn hoặc tóm tắt các lượt tương tác trước đó.

Tại sao luồng của tôi hiển thị không có gì, rồi sau đó hiển thị tất cả cùng một lúc?

Một proxy hoặc CDN có thể đang đệm phản hồi SSE. Hãy tắt tính năng đệm cho tuyến đó để các chunk được truyền qua ngay khi chúng đến.

Chỉ cần điền biểu mẫu này để lấy khóa của bạn

Tạo tài khoản, sao chép khóa, thay đổi URL cơ sở. Đó là toàn bộ thiết lập.

Lấy khóa APIĐọc tài liệu