RAG Pipeline शुरू से अंत तक

ऑफ़लाइन indexing, ऑनलाइन उत्तर

RAG system के दो चरण हैं। ऑफ़लाइन (indexing): दस्तावेज़ लोड करें, साफ़ करें, chunks में बाँटें, metadata जोड़ें, embeddings निकालें और chunks, vectors व metadata को index में रखें। ऑनलाइन (query समय): user का सवाल लें, चाहें तो उसे दोबारा लिखें, शीर्ष chunks retrieve करें (keyword, vector या दोनों), चाहें तो उन्हें rerank करें, chunks के साथ prompt बनाएँ, मॉडल बुलाएँ, फिर उत्तर जाँचकर citations सहित लौटाएँ। हर चरण अलग से विफल हो सकता है, इसलिए उनका मूल्यांकन और debugging अलग से करें।

Pipeline एक नज़र में

दो पंक्तियाँ ऑफ़लाइन और ऑनलाइन प्रवाह दिखाती हैं।

OFFLINE  documents -> clean -> chunk -> (+metadata) -> embed -> index
ONLINE   question -> [rewrite] -> retrieve top-k -> [rerank] -> prompt
                  -> LLM -> verify citations -> answer + sources

हर चरण log करें

हर अनुरोध के लिए दोबारा लिखी query, retrieved chunk IDs, scores और अंतिम prompt सहेजें। इनके बिना बुरे उत्तर की debugging लगभग असंभव है।

त्वरित जाँच: कौन-सा चरण ऑफ़लाइन होता है?

• दस्तावेज़ों की chunking और embedding
• User को उत्तर देना
• इस सवाल के लिए reranking
• Citations जाँचना