ID ▾

unfilteredaiapi.comhttps://api.unfilteredaiapi.com/v1

Unfiltered AI

API LLM mentah, tanpa sensor, untuk pengembang.

Unfiltered AIDapatkan kunci API

Respons API LLM Kosong? Penyebab dan Solusi

Ketika kesalahan respons API LLM kosong muncul, server biasanya menjawab dan string kosong berasal dari cara balasan dibaca. Berikut adalah daftar periksa, diurutkan berdasarkan seberapa sering setiap penyebab muncul.

Data mengalir melalui pipa kaca menuju gelembung bicara kosong, dengan lensa yang mengungkapkan cabang tersembunyi

Poin utama

  • Cetak JSON mentah terlebih dahulu. Sebagian besar balasan kosong adalah masalah parsing, bukan gangguan layanan.
  • Periksa finish_reason: length, stop, dan tool_calls masing-masing menjelaskan bidang konten yang kosong.
  • Dalam aliran, baca delta.content secara defensif dan lewati potongan tanpa pilihan.
  • 429 atau proxy yang melakukan buffering SSE dapat terlihat seperti jawaban kosong di beberapa klien.

Mulai dengan melihat respons mentah

Sebelum Anda mengubah pengaturan apa pun, tangkap tepat apa yang diterima. Perpustakaan pembungkus menyembunyikan penyebabnya: print(response.choices[0].message.content) menampilkan None atau string kosong apakah tubuh respons kosong, berisi panggilan fungsi, berakhir pada batas panjang, atau tidak pernah tiba.

Gunakan curl agar tidak ada kode klien yang menghalangi, dan sertakan header dengan -i:

curl -i https://api.unfilteredaiapi.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Say hello in five words."}]
  }'

Baca tiga hal dalam hasil. Pertama, baris status: 200 berarti penyelesaian dihasilkan, 429 berarti batas tercapai, kesalahan autentikasi seperti 401 biasanya mengarah pada kunci. Kedua, choices[0].finish_reason. Ketiga, header respons, terutama X-Request-Id (simpan jika Anda menghubungi support) dan X-Balance-USD, yang menunjukkan apakah akun masih memiliki saldo. Jika panggilan curl ini mengembalikan teks, layanan berfungsi dan masalah ada di klien Anda. Jika mengembalikan tubuh kesalahan, Anda sudah memiliki penyebabnya.

Penyebab 1: pesan berisi panggilan alat, bukan teks

Jika Anda meneruskan tools dan model memutuskan untuk memanggil salah satunya, pesan asisten memiliki tool_calls dan content-nya adalah null atau kosong. Kode yang hanya membaca content akan melihat balasan kosong. Perbaikannya adalah memeriksa tool_calls terlebih dahulu, menjalankan fungsi, menambahkan hasil sebagai pesan dengan role: "tool", dan memanggil API lagi.

from openai import OpenAI

client = OpenAI(base_url="https://api.unfilteredaiapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "What is the weather in Oslo?"}],
    tools=[{
        "type": "function",
        "function": {
            "name": "get_weather",
            "description": "Get current weather for a city",
            "parameters": {
                "type": "object",
                "properties": {"city": {"type": "string"}},
                "required": ["city"],
            },
        },
    }],
)

msg = resp.choices[0].message
if msg.tool_calls:
    print("tool call:", msg.tool_calls[0].function.name, msg.tool_calls[0].function.arguments)
else:
    print(msg.content)

Jika Anda tidak bermaksud menawarkan alat, hapus bidang tools dan tool_choice. Definisi alat yang tersisa dari eksperimen sebelumnya adalah alasan klasik untuk teks kosong.

Penyebab 2: balasan terpotong atau belum dimulai

finish_reason menjelaskan sebagian besar sisanya.

  • length. Penyelesaian mencapai batas token. Anda mungkin mengatur max_tokens sangat rendah, seperti 1 atau 10. Parameter ini opsional di sini, karena penyelesaian dapat menggunakan sisa jendela 100.000 token, sehingga perbaikan paling sederhana adalah menghapusnya. Jika Anda membutuhkan batas, atur dengan ruang cadangan.
  • stop. Model selesai secara normal, atau menghasilkan salah satu string stop Anda. Urutan berhenti seperti baris baru menghentikan balasan pada pemutus baris pertama, yang dapat membuat Anda tidak memiliki apa-apa jika model dimulai dengan baris kosong. Hapus atau longgarkan urutannya.
  • tool_calls. Lihat bagian sebelumnya.

Overflow konteks adalah masalah panjang lainnya. Jendela adalah 100.000 token, menghitung prompt dan penyelesaian bersama-sama. Jika riwayat obrolan telah tumbuh hampir memenuhinya, hampir tidak ada ruang tersisa untuk menjawab. Pangkas putaran lama atau ringkas. Halaman tentang memori percakapan dan jendela konteks panjang menunjukkan cara menjaga riwayat tetap terkendali. Tubuh permintaan juga tidak boleh melebihi 8 MB.

Jebakan kecil lainnya: mode JSON. Dengan response_format diatur ke json_object, sertakan kata JSON dalam instruksi Anda dan jelaskan bentuk yang Anda inginkan. Prompt yang samar ditambah mode JSON menghasilkan output tipis atau sepele yang terlihat kosong setelah Anda mengekstrak kunci darinya.

Penyebab 3: streaming dibaca secara salah

Streaming melalui SSE mengirim banyak potongan kecil. Tidak setiap potongan membawa teks. Potongan pertama sering hanya memiliki peran, potongan konten terakhir membawa finish_reason dengan delta kosong, dan potongan terakhir yang melaporkan penggunaan dapat tiba dengan daftar choices kosong. Kode yang mengindeks choices[0] pada setiap potongan akan crash, dan kode yang memperlakukan potongan tanpa teks sebagai jawaban utuh akan mencetak apa-apa.

from openai import OpenAI

client = OpenAI(base_url="https://api.unfilteredaiapi.com/v1", api_key="YOUR_KEY")

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Write two sentences about rain."}],
    stream=True,
)

parts = []
for chunk in stream:
    if not chunk.choices:
        continue
    delta = chunk.choices[0].delta
    if delta.content:
        parts.append(delta.content)

text = "".join(parts)
print(text if text else "[no content received]")

Dua masalah lingkungan juga terlihat seperti aliran kosong. Proksi terbalik atau CDN yang melakukan buffering respons akan menahan semua potongan hingga akhir, sehingga browser tidak melihat apa-apa untuk waktu yang lama dan kemudian semuanya sekaligus, atau waktu tunggu habis terlebih dahulu. Matikan buffering respons untuk rute streaming di proksi Anda. Dan aliran menempati slot konkurensinya hingga berakhir, sehingga aliran yang ditinggalkan (tab yang ditutup, close() yang hilang) akan secara bertahap menghabiskan 8 slot Anda. Permintaan berikutnya kemudian mendapatkan 429 daripada teks. Untuk contoh server lengkap, lihat backend FastAPI dengan streaming SSE.

Penyebab 4: kesalahan yang ditelan klien Anda

Beberapa pembungkus HTTP mengembalikan string kosong pada status non-200 daripada memunculkan pengecualian. Log kode status dan tubuh untuk setiap kegagalan. Kasus-kasus yang penting:

Status atau kodeArtiApa yang harus dilakukan
429, rate_limitedLebih dari 300 permintaan per menit pada satu kunci penuh (60 pada uji coba)Perlambat, tambahkan antrian
429, concurrencyLebih dari 8 permintaan sekaligus pada satu kunci penuh (2 pada uji coba)Batasi pekerja Anda
429 dengan Retry-After: 5Beban berlebih sementaraTunggu 5 detik dan coba lagi
401Biasanya kunci yang hilang atau salahPeriksa header Authorization: Bearer
404Biasanya jalur atau URL dasar yang salahURL dasar harus berakhir di /v1

Pembungkus ulang sederhana membutuhkan beberapa baris dan menghapus seluruh kelas kesalahan kosong sporadis:

import time
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://api.unfilteredaiapi.com/v1", api_key="YOUR_KEY")

def ask(messages, tries=4):
    for attempt in range(tries):
        try:
            r = client.chat.completions.create(model="uncensored", messages=messages)
            return r.choices[0].message.content or ""
        except RateLimitError as e:
            wait = 5
            retry_after = getattr(e.response, "headers", {}).get("retry-after")
            if retry_after:
                wait = int(retry_after)
            time.sleep(wait)
    raise RuntimeError("still limited after retries")

Permintaan yang gagal atau ditolak tidak dikenakan biaya, sehingga loop ulang tidak membuat Anda membayar dua kali. Anda dapat mengonfirmasi dengan membandingkan X-Balance-USD sebelum dan setelah panggilan yang gagal.

Penyebab 5: endpoint, model, atau kunci yang salah

Daftar periksa singkat kesalahan konfigurasi yang menghasilkan hasil aneh daripada kesalahan keras:

  1. Base URL adalah https://api.unfilteredaiapi.com/v1. Hilangnya /v1 atau duplikasinya dapat menghasilkan body 404 yang oleh klien yang longgar diubah menjadi balasan kosong.
  2. Nama model adalah uncensored, dieja persis. Mengatur model dari katalog penyedia lain adalah kesalahan copy-paste yang umum.
  3. Hanya POST /v1/chat/completions dan GET /v1/models yang ada. Endpoint completions lama, embedding, dan rute gambar tidak tersedia, sehingga perpustakaan yang memanggilnya tidak mendapatkan apa-apa yang berguna.
  4. Kunci dikirim sebagai token Bearer dan tidak memiliki spasi atau tanda kutip yang tidak diinginkan dari file env.

Panggil GET /v1/models dengan kunci Anda sebagai uji konektivitas. Jika model tercantum, URL dasar dan kunci benar dan masalahnya ada di body permintaan. quickstart memiliki permintaan kerja minimal untuk dibandingkan, dan FAQ mencakup akses, batas, dan penagihan.

Logging yang memperpendek insiden berikutnya

Balasan kosong sulit didebug setelah kejadian karena tidak ada yang merekam apa yang dikirim server. Beberapa baris log mengubah misteri menjadi pemeriksaan.

  1. Log header respons X-Request-Id untuk setiap panggilan, berhasil maupun gagal.
  2. Log finish_reason, hitungan usage, dan panjang teks yang dikembalikan.
  3. Untuk streaming, log berapa banyak chunk yang tiba dan berapa banyak yang membawa teks. Nol chunk dengan teks dan finish_reason normal mengarah ke parser Anda. Nol chunk sama sekali mengarah ke jaringan atau proxy.
  4. Buat peringatan berdasarkan rasio balasan kosong terhadap total panggilan, bukan pada kejadian tunggal. Satu balasan kosong dari seribu adalah gangguan. Lima persen adalah bug.

Saat Anda membandingkan permintaan yang gagal dengan yang berhasil, diff body permintaan terlebih dahulu. Perubahan system prompt, penambahan daftar stop, max_tokens yang lebih kecil, atau pergantian nama model menjelaskan sebagian besar regresi. Masukkan body permintaan ke dalam log untuk sampel permintaan, setelah menghapus data pribadi apa pun.

Jika beberapa pengguna melaporkan balasan kosong secara bersamaan dan tes curl Anda juga gagal, penyebabnya kemungkinan bukan kode Anda. Periksa adanya 429 dengan Retry-After terlebih dahulu, karena kelebihan beban sementara ditandai dengan cara ini, dan coba lagi setelah jeda yang dinyatakan. Jika tes curl berhasil tetapi aplikasi Anda gagal, kerjakan dari sisi klien menggunakan bagian di atas.

Jika balasan pendek daripada kosong

Terkadang gejalanya adalah jawaban satu baris di mana Anda menginginkan halaman. Itu adalah masalah prompting lebih daripada masalah transportasi. Minta panjang dan bentuk yang Anda inginkan ("setidaknya 400 kata, dalam tiga paragraf"), masukkan instruksi ke dalam pesan sistem, dan naikkan temperature sedikit jika model sedang singkat. Model ini disesuaikan untuk menjawab tanpa penolakan konten untuk penggunaan dewasa yang sah, sehingga balasan singkat jarang merupakan penolakan; itu lebih sering merupakan permintaan yang kurang spesifik. Konten seksual yang melibatkan anak di bawah umur adalah satu batas keras dan selalu ditolak.

Masih buntu? Kirimkan kepada dukungan teknis X-Request-Id dari respons yang gagal, waktu perkiraan, dan body permintaan tanpa kunci Anda. Itu memungkinkan seseorang menemukan permintaan yang tepat. Jika Anda baru menggunakan layanan ini, halaman kunci memiliki klaim kredit uji coba, yang cukup untuk puluhan panggilan debugging.

Tanya jawab

Mengapa message.content bernilai null?

Paling sering model mengembalikan tool_calls alih-alih teks, atau stream dibaca secara salah. Periksa finish_reason dan tool_calls pada pesan sebelum menganggapnya sebagai error.

Apakah respons kosong dikenakan biaya?

Permintaan yang gagal atau ditolak tidak dikenakan biaya. Jika sebuah panggilan berhasil dan menghasilkan token, Anda akan melihat hitungan penggunaan, dan X-Balance-USD dalam header menunjukkan saldo Anda.

Apakah jendela konteks yang penuh dapat menyebabkan output kosong?

Ya. Prompt dan completion berbagi 100.000 token, sehingga riwayat yang hampir penuh menyisakan sedikit atau tidak ada ruang untuk jawaban. Potong atau ringkas putaran sebelumnya.

Mengapa streaming saya menampilkan kosong, lalu semuanya sekaligus?

Proxy atau CDN kemungkinan melakukan buffering pada respons SSE. Nonaktifkan buffering untuk rute tersebut agar chunk dapat diteruskan begitu tiba.

Kunci Anda hanya selangkah lagi dari satu formulir

Buat akun, salin kunci, ubah URL dasar. Itu saja seluruh proses pengaturannya.

Dapatkan kunci APIBaca dokumentasi