Groundedness जाँच और Refusals

क्या प्रमाण से समर्थित?

Groundedness (जिसे faithfulness भी कहते हैं) पूछती है कि क्या उत्तर का हर दावा retrieved पाठ से समर्थित है। सस्ती जाँचें उत्तर के सामग्री-शब्दों की संदर्भ से तुलना करती हैं: कम overlap चेतावनी का संकेत है। मज़बूत जाँचें हर दावे को संदर्भ के विरुद्ध परखने को LLM judge या NLI मॉडल उपयोग करती हैं। Groundedness कम हो या retrieval विश्वास सीमा से नीचे हो तो शालीनता से मना करें ("मुझे यह दस्तावेज़ों में नहीं मिला"), संबंधित स्रोत सुझाएँ या मनुष्य को सौंपें। सही इनकार आत्मविश्वासी अनुमान से बेहतर है।

शब्द-overlap groundedness अनुमान, चलाकर

मैंने यह सादा-Python (सिर्फ़ standard library) उदाहरण चलाया। वफ़ादार उत्तर अपने सामग्री-शब्दों का 80% संदर्भ से साझा करता है; "20 days and cash them out" गढ़ने वाला उत्तर सिर्फ़ 25% साझा करता है और चिह्नित होता है। यह मोटा अनुमान है, उचित judge का विकल्प नहीं।

import re

def words(t): return set(re.findall(r"[a-z0-9]+", t.lower())) - {"the","a","an","of","to","is","are","can","be","you","per","up"}

context = "Unused leave up to 5 days can be carried over to the next year."
for ans in ("You can carry over 5 days of leave.", "You can carry over 20 days and cash them out."):
    aw = words(ans); support = len(aw & words(context)) / len(aw)
    print(round(support, 2), "grounded" if support >= 0.6 else "CHECK", "|", ans)

Output:

0.8 grounded | You can carry over 5 days of leave.
0.25 CHECK | You can carry over 20 days and cash them out.

विश्वास ईमानदारी से दिखाएँ

प्रमाण आंशिक हो तो पूरा-सा लगने वाला उत्तर देने की जगह बताएँ कि कौन-सा हिस्सा समर्थित है और कौन-सा नहीं।

त्वरित जाँच: प्रमाण बहुत कमज़ोर हो तो system को क्या करना चाहिए?

• कहे कि उत्तर दस्तावेज़ों में नहीं मिला
• विश्वसनीय लगने वाला उत्तर गढ़े
• Temperature बढ़ाए
• Index हटाए