# Hallucination घटाना — Large Language Models

Source: https://www.geekswithgeeks.com/hi/llms/e-hallucination

> Grounding, बाधाएँ और सत्यापन लागू करें।

## सच आसान और झूठ पकड़ने योग्य बनाएँ

Hallucinations को पूरी तरह हटाया नहीं जा सकता, सिर्फ़ घटाया और पकड़ा जा सकता है। व्यावहारिक उपाय: उत्तरों को दिए स्रोतों पर **आधारित** करें (RAG) और उद्धरण या citations माँगें; संदर्भ अपर्याप्त हो तो मॉडल को **विरत रहने** का निर्देश दें; तथ्यात्मक कार्यों के लिए **कम temperature**; आउटपुट को schemas या अनुमत मानों तक **सीमित** करें; कोड या दूसरे पास से **सत्यापित** करें (जाँचें कि उद्धृत अंश में दावा सचमुच है, बना कोड और tests चलाएँ, संख्याएँ validate करें); और UI में **अनिश्चितता व स्रोत दिखाएँ** ताकि users जाँच सकें। चिकित्सा, क़ानून या वित्त जैसे उच्च-जोखिम क्षेत्रों में मनुष्य को लूप में रखें।

**Quiz:** कौन-सा उपाय गढ़े गए citation को पकड़ने में मदद करता है?

- [ ] System prompt हटाना
- [ ] Temperature बढ़ाना
- [ ] छोटे शब्द उपयोग करना
- [x] कोड में जाँचना कि उद्धृत अंश में दावा मौजूद है

*Answer:* कोड में जाँचना कि उद्धृत अंश में दावा मौजूद है. स्रोत के विरुद्ध स्वचालित सत्यापन असमर्थित दावे पकड़ता है।