पाठ 26 / 28
RAG और Agent Memory के लिए Embeddings
Retrieval से language models को अपने डेटा पर आधारित करें।
Retrieval RAG का पहला आधा है
Retrieval-augmented generation (RAG) में embedding index प्रश्न के प्रासंगिक अंश खोजता है, और language model उनसे citations सहित उत्तर देता है। उत्तर retrieved प्रमाण से बेहतर नहीं हो सकता, इसलिए retrieval गुणवत्ता (recall@k) मुख्य उत्तोलक है; इस कोर्स की हर बात लागू होती है: अच्छे chunks और metadata, उपयुक्त embedding model, hybrid search, reranking, filters और मूल्यांकन। Agent memory यही विचार उपयोग करती है: पिछले तथ्य, बातचीतें या tool परिणाम vectors के रूप में रखें और पूरा इतिहास prompt में ठूँसने की जगह वर्तमान कार्य से प्रासंगिक कुछ retrieve करें। याद रखें कि सबसे अच्छा मिलान कमज़ोर हो तो system को "नहीं मिला" कहने दें, स्रोत बताएँ, और retrieved पाठ को अविश्वसनीय मानें।
त्वरित जाँच: RAG उत्तर की गुणवत्ता की मुख्य सीमा क्या है?
- Retrieval जो प्रमाण खोजता है उसकी प्रासंगिकता
- UI का रंग
- अकेले vector आयामों की संख्या
- API key की लंबाई
Answer
Retrieval जो प्रमाण खोजता है उसकी प्रासंगिकता — प्रमाण ग़ायब या ग़लत हो तो मॉडल निष्ठा से उत्तर नहीं दे सकता।