# दस्तावेज़ीकरण, पारदर्शिता और इंसानी निगरानी — AI Safety, Evaluation और Cost Control

Source: https://www.geekswithgeeks.com/hi/ai-safety/resp-documentation-oversight

> इच्छित उपयोग, सीमाएँ और test नतीजे दर्ज करें, users को बताएँ कि वे AI से बात कर रहे हैं, और उच्च-जोखिम निर्णयों में इंसानों को प्रभारी रखें।

## लिखें कि यह किसलिए है

हर AI feature के लिए छोटा **system card** रखें: वह किसलिए है, किसके लिए उपयोग नहीं होना चाहिए, उसके पीछे के डेटा और models, evaluation नतीजे (कमज़ोर slices समेत), ज्ञात सीमाएँ और उसका मालिक कौन है। **Users को बताएँ** कि वे AI से बात कर रहे हैं और वह कितना भरोसेमंद है। जिन निर्णयों का लोगों पर बड़ा असर पड़ता है, जैसे ऋण, भर्ती, स्वास्थ्य या अनुशासन, उनमें **इंसानी निर्णयकर्ता** रखें जो system की समीक्षा और उसे पलट सके, और निर्णय के कारण का रिकॉर्ड रखें।

## System card की रूपरेखा

शुरुआत के लिए एक पन्ना काफ़ी है। इसे कोड के पास रखें और system बदलने पर अपडेट करें।

```text
Name / owner         Support assistant v3 / Customer Care team
Intended use         answer questions from the published help centre
Not for              legal, medical or financial advice; account changes
Model + data         <model name>; help-centre articles (updated weekly)
Evaluation           250 cases; 91% grounded-correct; Hindi slice 84% (gap noted)
Safeguards           PII masking, moderation, grounding check, rate limits
Human oversight      low-confidence answers go to an agent
Known limits         weaker on mixed Hindi-English; may miss recent changes
```

## AI उपयोग स्पष्ट बताएँ

"AI सहायक: उत्तरों में ग़लतियाँ हो सकती हैं, महत्वपूर्ण ब्योरे जाँच लें" जैसा छोटा लेबल सही अपेक्षाएँ बनाता है और अति-निर्भरता घटाता है।

**Quiz:** ऋण मंज़ूरी जैसे उच्च-जोखिम निर्णय कौन ले?

- [ ] अकेला AI, हमेशा
- [x] एक इंसान जो AI की समीक्षा और उसे पलट सके
- [ ] एक random number generator
- [ ] कोई नहीं

*Answer:* एक इंसान जो AI की समीक्षा और उसे पलट सके. महत्वपूर्ण निर्णयों में जवाबदेह इंसानी निगरानी और कारणों का रिकॉर्ड चाहिए।