LLM API रिस्पॉन्स रिक्त? कारण और समाधान
जब LLM API रिस्पॉन्स खाली त्रुटि आती है, तो सर्वर ने आमतौर पर जवाब दिया होता है और खाली स्ट्रिंग जवाब को पढ़ने के तरीके से आती है। यहाँ एक चेकलिस्ट है, प्रत्येक कारण के आने की आवृत्ति के अनुसार क्रमित।
अपडेटेडUnfiltered AI

मुख्य बिंदु
- सबसे पहले कच्चा JSON प्रिंट करें। अधिकांश खाली जवाब पार्सिंग की समस्या हैं, सर्विस अवरोध नहीं।
- finish_reason जाँचें: length, stop और tool_calls प्रत्येक एक खाली content फ़ील्ड की व्याख्या करते हैं।
- streams में, delta.content को सुरक्षित रूप से पढ़ें और उन चंक्स को छोड़ दें जिनमें कोई चयन नहीं है।
- 429 या एक प्रॉक्सी जो SSE को बफ़र करता है, कुछ क्लाइंट्स में खाली जवाब जैसा दिख सकता है।
सबसे पहले कच्चे प्रतिक्रिया को देखें
किसी भी सेटिंग बदलने से पहले, यह बिल्कुल कैप्चर करें कि वापस क्या आया। व्रैपर लाइब्रेरीज़ कारण छुपाती हैं: एक साधा print(response.choices[0].message.content) None या एक खाली स्ट्रिंग दिखाता है चाहे बॉडी खाली थी, इसमें tool call था, length सीमा पर समाप्त हुआ या कभी आया ही नहीं।
curl का उपयोग करें ताकि कोई क्लाइंट कोड बाधा न डाले, और -i के साथ हेडर शामिल करें:
curl -i https://api.unfilteredaiapi.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Say hello in five words."}]
}'
परिणाम में तीन चीज़ें पढ़ें। पहला, स्टेटस लाइन: 200 का अर्थ है कि एक completion उत्पन्न हुआ, 429 का अर्थ है कि एक लिमिट टकराई, 401 जैसी authentication त्रुटि आमतौर पर कुंजी की ओर इशारा करती है। दूसरा, choices[0].finish_reason। तीसरा, response हेडर, विशेष रूप से X-Request-Id (इसे रखें यदि आप support से संपर्क करते हैं) और X-Balance-USD, जो दिखाता है कि खाते में अभी भी credit है या नहीं। यदि यह curl कॉल टेक्स्ट लौटाता है, तो सेवा काम कर रही है और समस्या आपके क्लाइंट में है। यदि यह एक error body लौटाता है, तो आपको कारण पहले से ही मिल गया है।
कारण 1: संदेश में tool call है, टेक्स्ट नहीं
यदि आप tools पास करते हैं और मॉडल एक को कॉल करने का निर्णय लेता है, तो assistant message में tool_calls होता है और इसका content null या खाली होता है। केवल content पढ़ने वाला कोड एक खाली प्रतिक्रिया देखता है। समाधान यह है कि tool calls के लिए पहले जाँच करें, फ़ंक्शन चलाएँ, परिणाम को role: "tool" के साथ एक message के रूप में जोड़ें, और API को फिर से कॉल करें।
from openai import OpenAI
client = OpenAI(base_url="https://api.unfilteredaiapi.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "What is the weather in Oslo?"}],
tools=[{
"type": "function",
"function": {
"name": "get_weather",
"description": "Get current weather for a city",
"parameters": {
"type": "object",
"properties": {"city": {"type": "string"}},
"required": ["city"],
},
},
}],
)
msg = resp.choices[0].message
if msg.tool_calls:
print("tool call:", msg.tool_calls[0].function.name, msg.tool_calls[0].function.arguments)
else:
print(msg.content)
यदि आपका इरादा tools प्रदान करने का नहीं था, तो tools और tool_choice फ़ील्ड्स हटा दें। एक पूर्व प्रयोग से बचा हुआ tool definition खाली टेक्स्ट का एक क्लासिक कारण है।
कारण 2: प्रतिक्रिया कट गई या शुरू ही नहीं हुई
finish_reason शेष अधिकांश की व्याख्या करता है।
- length. completion ने एक token cap टकराया। आपने
max_tokensबहुत कम सेट किया हो सकता है, जैसे 1 या 10। यह पैरामीटर यहाँ वैकल्पिक है, क्योंकि completion 100,000-token विंडो के बचे हुए हिस्से का उपयोग कर सकता है, इसलिए सबसे सरल समाधान इसे हटाना है। यदि आपको एक cap की आवश्यकता है, तो इसे पर्याप्त जगह के साथ सेट करें। - stop. मॉडल सामान्य रूप से समाप्त हुआ, या इसने आपके
stopस्ट्रिंग्स में से एक उत्पन्न किया। एक stop sequence जैसे कि newline प्रतिक्रिया को पहले लाइन ब्रेक पर रोक देता है, जिससे यदि मॉडल एक खाली लाइन से शुरू होता है तो आपके पास कुछ भी नहीं रह जाता है। sequence को हटा दें या उसे ढीला करें। - tool_calls. पिछले अनुभाग को देखें।
संदर्भ ओवरफ़्लो (Context overflow) लंबाई का दूसरा समस्या है। विंडो 100,000 टोकन की है, प्रॉम्प्ट (prompt) और पूर्णता (completion) को मिलाकर गिना जाता है। यदि एक चैट इतिहास (chat history) लगभग इसे भरने तक बढ़ गया है, तो जवाब देने के लिए लगभग कोई जगह नहीं बची है। पुराने टर्न्स (turns) को काटें या उन्हें सारांशित करें। संवाद मेमोरी (conversation memory) और लंबा संदर्भ विंडो (long context window) के पृष्ठ पर इतिहास को नियंत्रित में रखने के तरीके दिखाए गए हैं। एक अनुरोध बॉडी (request body) भी 8 MB से अधिक नहीं हो सकता है।
एक और छोटा फँसाना: JSON मोड। response_format को json_object पर सेट करने पर, अपने निर्देशों में JSON शब्द शामिल करें और जिस आकार की आवश्यकता है, उसे वर्णित करें। एक अस्पष्ट प्रॉम्प्ट और JSON मोड पतले या नगण्य आउटपुट देते हैं, जिसे निकालने पर वह खाली लगता है।
कारण 3: स्ट्रीमिंग गलत पढ़ा गया
SSE के ऊपर स्ट्रीमिंग कई छोटे चंक्स भेजती है। हर चंक्स टेक्स्ट नहीं लाता। पहला चंक्स अक्सर केवल role रखता है, आखिरी content चंक्स एक finish_reason ले जाता है जिसका delta खाली होता है, और अंतिम चंक्स जो usage रिपोर्ट करता है, वह खाली choices लिस्ट के साथ आ सकता है। कोड जो हर चंक्स पर choices[0] को इंडेक्स करता है, वह क्रैश कर जाएगा, और कोड जो बिना टेक्स्ट वाले चंक्स को पूरी प्रतिक्रिया मानता है, वह कुछ भी प्रिंट नहीं करेगा।
from openai import OpenAI
client = OpenAI(base_url="https://api.unfilteredaiapi.com/v1", api_key="YOUR_KEY")
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Write two sentences about rain."}],
stream=True,
)
parts = []
for chunk in stream:
if not chunk.choices:
continue
delta = chunk.choices[0].delta
if delta.content:
parts.append(delta.content)
text = "".join(parts)
print(text if text else "[no content received]")
दो पर्यावरण समस्याएँ भी खाली स्ट्रीम जैसी दिखती हैं। एक reverse proxy या CDN जो responses को buffer करता है, वह सभी चंक्स को अंत तक रोक लेगा, इसलिए एक ब्राउज़र लंबे समय तक कुछ नहीं देखेगा और फिर एक साथ सब कुछ, या एक timeout पहले फायर हो जाएगा। अपने proxy में streaming route के लिए response buffering बंद करें। और एक stream अपने concurrency slot को अंत तक घेरता है, इसलिए छोड़े गए streams (एक बंद टैब, एक missing close()) धीरे-धीरे आपके 8 slots का उपयोग कर लेंगे। अगला request फिर text के बजाय एक 429 प्राप्त करेगा। एक पूर्ण server उदाहरण के लिए, SSE स्ट्रीमिंग के साथ FastAPI बैकएंड देखें।
कारण 4: एक त्रुटि जिसे आपके क्लाइंट ने निगल लिया
कुछ HTTP वेपरर्स (HTTP wrappers) गैर-200 स्टेटस पर अपवाद (exception) उठाने के बजाय एक खाली स्ट्रिंग लौटाते हैं। हर विफलता के लिए स्टेटस कोड (status code) और बॉडी (body) लॉग करें। वे मामले जो मायने रखते हैं:
| status या कोड | अर्थ | क्या करना है |
|---|---|---|
429, rate_limited | एक पूर्ण कुंजी पर प्रति मिनट 300 से अधिक अनुरोध (ट्रायल पर 60) | गति कम करें, एक कतार जोड़ें |
429, concurrency | एक पूर्ण कुंजी पर एक साथ 8 से अधिक अनुरोध (ट्रायल पर 2) | अपने वर्करों की सीमा निर्धारित करें |
429 के साथ Retry-After: 5 | अस्थायी ओवरलोड | 5 सेकंड प्रतीक्षा करें और पुनः प्रयास करें |
| 401 | आमतौर पर एक अनुपस्थित या गलत कुंजी | Authorization: Bearer हेडर की जाँच करें |
| 404 | आमतौर पर एक गलत पथ या बेस URL | बेस URL /v1 पर समाप्त होना चाहिए |
एक सरल व्रैपर कुछ पंक्तियों में लिखा जाता है और यादृच्छिक खाली जवाबों की एक श्रेणी को हटा देता है:
import time
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://api.unfilteredaiapi.com/v1", api_key="YOUR_KEY")
def ask(messages, tries=4):
for attempt in range(tries):
try:
r = client.chat.completions.create(model="uncensored", messages=messages)
return r.choices[0].message.content or ""
except RateLimitError as e:
wait = 5
retry_after = getattr(e.response, "headers", {}).get("retry-after")
if retry_after:
wait = int(retry_after)
time.sleep(wait)
raise RuntimeError("still limited after retries")
असफल या अस्वीकृत अनुरोधों के लिए चार्ज नहीं किया जाता, इसलिए रिट्राई लूप आपको दो बार खर्च नहीं कराता। आप X-Balance-USD को असफल कॉल से पहले और बाद में तुलना करके पुष्टि कर सकते हैं।
कारण 5: गलत एंडपॉइंट, मॉडल या कुंजी
विचित्र परिणाम उत्पन्न करने वाले कॉन्फ़िगरेशन त्रुटियों की एक छोटी चेकलिस्ट:
- बेस URL
https://api.unfilteredaiapi.com/v1है।/v1का न होना या दोहरा होना 404 बॉडी दे सकता है जिसे एक सहिष्णु क्लाइंट खाली जवाब में बदल देता है। - मॉडल का नाम
uncensoredहै, सटीक वर्तनी। एक अन्य प्रदाता की कैटलॉग से एक मॉडल सेट करना एक सामान्य कॉपी-पेस्ट त्रुटि है। - केवल
POST /v1/chat/completionsऔरGET /v1/modelsमौजूद हैं। विरासत पूरक एंडपॉइंट, एम्बेडिंग और इमेज मार्ग उपलब्ध नहीं हैं, इसलिए उन्हें कॉल करने वाली एक लाइब्रेरी को कुछ भी उपयोगी नहीं मिलता है। - कुंजी एक Bearer टोकन के रूप में भेजी जाती है और एक env फ़ाइल से कोई अतिरिक्त सफेद स्थान या उद्धरण चिह्न नहीं है।
कनेक्टिविटी टेस्ट के लिए GET /v1/models को अपनी API कुंजी के साथ कॉल करें। यदि यह मॉडल, बेस URL और कुंजी सूचीबद्ध करता है, तो बेस URL और कुंजी सही हैं और समस्या अनुरोध बॉडी में है। तुलना के लिए न्यूनतम कार्यशील अनुरोध क्विकस्टार्ट में है, और FAQ एक्सेस, लिमिट और बिलिंग को कवर करता है।
अगली घटना को कम करने के लिए लॉगिंग
खाली प्रतिक्रियाएँ बाद में डिबग करना कठिन हैं क्योंकि किसी ने रिकॉर्ड नहीं किया कि सर्वर ने क्या भेजा। लॉगिंग की कुछ पंक्तियाँ एक रहस्य को एक खोज में बदल देती हैं।
- हर कॉल के साथ
X-Request-Idप्रतिक्रिया हेडर को लॉग करें, सफल या असफल। finish_reason,usageगणना और लौटाए गए टेक्स्ट की लंबाई लॉग करें।- स्ट्रीम्स के लिए, लॉग करें कि कितने चंक्स आए और कितने में टेक्स्ट था। टेक्स्ट के साथ शून्य चंक्स और सामान्य समाप्ति आपके पार्सर की ओर इशारा करती है। कुल मिलाकर शून्य चंक्स नेटवर्क या प्रॉक्सी की ओर इशारा करते हैं।
- एकल घटनाओं पर नहीं, कुल कॉल के सापेक्ष खाली प्रतिक्रियाओं के अनुपात पर अलर्ट सेट करें। हज़ार में एक खाली शोर है। पाँच प्रतिशत एक बग है।
जब आप एक असफल कॉल को एक कार्यशील कॉल से तुलना करते हैं, तो अनुरोध बॉडी की diff पहले करें। एक बदला गया सिस्टम प्रॉम्प्ट, एक जोड़ा गया stop लिस्ट, एक छोटा max_tokens या एक बदला गया मॉडल नाम अधिकांश रीग्रेशन को समझाता है। अनुरोध बॉडी को लॉग में डालें, किसी भी व्यक्तिगत डेटा को हटाकर।
यदि कई उपयोगकर्ता एक ही समय में खाली प्रतिक्रिया की रिपोर्ट करते हैं और आपका curl परीक्षण भी विफल हो जाता है, तो कारण संभवतः आपका कोड नहीं है। पहले Retry-After के साथ 429 की जाँच करें, क्योंकि अस्थायी ओवरलोड इस तरह से संकेतित किया जाता है, और दिए गए विलंबता के बाद पुनः प्रयास करें। यदि curl परीक्षण सफल होता है और आपका एप्लिकेशन विफल होता है, तो ऊपर दिए गए अनुभागों का उपयोग करके क्लाइंट साइड से काम करें।
यदि प्रतिक्रिया लंबी होने के बजाय छोटी है
कभी-कभी लक्षण एक एक-लाइन जवाब है जहाँ आपने एक पेज चाहा था। यह एक ट्रांसपोर्ट समस्या से अधिक एक प्रॉम्प्टिंग समस्या है। उस लंबाई और रूप की माँग करें जिसे आप चाहते हैं ("कम से कम 400 शब्द, तीन पैराग्राफ में"), निर्देश को सिस्टम मैसेज में डालें, और यदि मॉडल संक्षिप्त है तो temperature थोड़ा बढ़ाएं। मॉडल वयस्कों के कानूनी उपयोग के लिए बिना सेंसर जवाब देने के लिए ट्यून्ड है, इसलिए एक छोटा जवाब दुर्लभ रूप से अस्वीकृति नहीं है; यह अक्सर एक अधूरे अनुरोध है। नाबालिगों से जुड़ी यौन सामग्री एक कठोर सीमा है और हमेशा अस्वीकृत की जाती है।
अभी भी फँसे हैं? असफल रिस्पॉन्स से X-Request-Id, अनुमानित समय और अपनी कुंजी के बिना अनुरोध बॉडी भेजें। यह किसी को सटीक कॉल ढूँढने में मदद करता है। यदि आप नए हैं, तो कुंजी पेज पर ट्रायल क्रेडिट क्लेम है, जो डीबगिंग कॉल के लिए पर्याप्त है।
अधिक गाइड
प्रश्न और उत्तर
क्यों message.content null है?
अक्सर मॉडल ने टेक्स्ट के बजाय tool_calls लौटाए, या स्ट्रीम को गलत पढ़ा गया। इसे एक त्रुटि मानने से पहले संदेश पर finish_reason और tool_calls की जाँच करें।
क्या एक खाली प्रतिक्रिया के लिए पैसे खर्च होते हैं?
विफल या अस्वीकृत अनुरोधों के लिए चार्ज नहीं किया जाता है। यदि कोई कॉल सफल हुई और टोकन उत्पन्न किए, तो आपको उपयोग गणना दिखाई देगी, और हेडर्स में X-Balance-USD आपका शेष दिखाता है।
क्या एक पूर्ण कॉन्टेक्स्ट विंडो खाली आउटपुट का कारण बन सकती है?
हाँ। प्रॉम्प्ट और कंप्लीशन 100,000 टोकन साझा करते हैं, इसलिए लगभग भरी हुई इतिहास में जवाब के लिए बहुत कम या कोई जगह नहीं बचती। पिछली बातचीत को काटें या सारांशित करें।
क्यों मेरा स्ट्रीम कुछ नहीं दिखाता, फिर सब कुछ एक साथ?
प्रॉक्सी या CDN शायद SSE रिस्पॉन्स को बफर कर रहा है। उस रूट के लिए बफरिंग अक्षम करें ताकि चंक्स आने पर ही गुजरें।
आपकी कुंजी प्राप्त करने के लिए केवल एक फॉर्म भरना है
एक खाता बनाएँ, कुंजी कॉपी करें, बेस URL बदलें। सेटअप यही है।