Hallucination घटाना

सच आसान और झूठ पकड़ने योग्य बनाएँ

Hallucinations को पूरी तरह हटाया नहीं जा सकता, सिर्फ़ घटाया और पकड़ा जा सकता है। व्यावहारिक उपाय: उत्तरों को दिए स्रोतों पर आधारित करें (RAG) और उद्धरण या citations माँगें; संदर्भ अपर्याप्त हो तो मॉडल को विरत रहने का निर्देश दें; तथ्यात्मक कार्यों के लिए कम temperature; आउटपुट को schemas या अनुमत मानों तक सीमित करें; कोड या दूसरे पास से सत्यापित करें (जाँचें कि उद्धृत अंश में दावा सचमुच है, बना कोड और tests चलाएँ, संख्याएँ validate करें); और UI में अनिश्चितता व स्रोत दिखाएँ ताकि users जाँच सकें। चिकित्सा, क़ानून या वित्त जैसे उच्च-जोखिम क्षेत्रों में मनुष्य को लूप में रखें।

त्वरित जाँच: कौन-सा उपाय गढ़े गए citation को पकड़ने में मदद करता है?

• System prompt हटाना
• Temperature बढ़ाना
• छोटे शब्द उपयोग करना
• कोड में जाँचना कि उद्धृत अंश में दावा मौजूद है