RAG क्या ठीक नहीं करता

बेहतर, पूर्ण नहीं

RAG hallucination घटाता है पर हटाता नहीं। आम विफलताएँ: सही अंश कभी retrieve नहीं होता (बुरे उत्तरों का सबसे आम कारण); अंश retrieve होता है पर अनदेखा या ग़लत पढ़ा जाता है; retrieved पाठ पुराना या ग़लत है (garbage in, garbage out); उत्तर के लिए कई दस्तावेज़ मिलाने (multi-hop सवाल) या तालिका पर गणना चाहिए; सवाल अस्पष्ट है; और परस्पर विरोधी स्रोत असहमत हैं। अच्छी RAG engineering अधिकतर यह मापने की है कि इनमें से क्या हो रहा है और वही चरण ठीक करने की।

"मुझे नहीं पता" की अनुमति हमेशा दें

मॉडल को निर्देश दें कि संदर्भ में उत्तर न हो तो कहे कि नहीं पता, और मापें कि वह यह कितनी बार सही करता है।

त्वरित जाँच: बुरे RAG उत्तरों का सबसे आम कारण क्या है?

• Font बहुत छोटा था
• प्रासंगिक अंश retrieve नहीं हुआ
• GPU ठंडा था
• उत्तर बहुत छोटा था