दस्तावेज़ीकरण, पारदर्शिता और इंसानी निगरानी

लिखें कि यह किसलिए है

हर AI feature के लिए छोटा system card रखें: वह किसलिए है, किसके लिए उपयोग नहीं होना चाहिए, उसके पीछे के डेटा और models, evaluation नतीजे (कमज़ोर slices समेत), ज्ञात सीमाएँ और उसका मालिक कौन है। Users को बताएँ कि वे AI से बात कर रहे हैं और वह कितना भरोसेमंद है। जिन निर्णयों का लोगों पर बड़ा असर पड़ता है, जैसे ऋण, भर्ती, स्वास्थ्य या अनुशासन, उनमें इंसानी निर्णयकर्ता रखें जो system की समीक्षा और उसे पलट सके, और निर्णय के कारण का रिकॉर्ड रखें।

System card की रूपरेखा

शुरुआत के लिए एक पन्ना काफ़ी है। इसे कोड के पास रखें और system बदलने पर अपडेट करें।

Name / owner         Support assistant v3 / Customer Care team
Intended use         answer questions from the published help centre
Not for              legal, medical or financial advice; account changes
Model + data         <model name>; help-centre articles (updated weekly)
Evaluation           250 cases; 91% grounded-correct; Hindi slice 84% (gap noted)
Safeguards           PII masking, moderation, grounding check, rate limits
Human oversight      low-confidence answers go to an agent
Known limits         weaker on mixed Hindi-English; may miss recent changes

AI उपयोग स्पष्ट बताएँ

"AI सहायक: उत्तरों में ग़लतियाँ हो सकती हैं, महत्वपूर्ण ब्योरे जाँच लें" जैसा छोटा लेबल सही अपेक्षाएँ बनाता है और अति-निर्भरता घटाता है।

त्वरित जाँच: ऋण मंज़ूरी जैसे उच्च-जोखिम निर्णय कौन ले?

• अकेला AI, हमेशा
• एक इंसान जो AI की समीक्षा और उसे पलट सके
• एक random number generator
• कोई नहीं