पारदर्शिता और Explainability

बताएँ, और समझाएँ

पारदर्शिता का मतलब है लोगों को बताना कि वे कब AI से बात कर रहे हैं या कब उनके बारे में निर्णय में AI का योगदान रहा, वह कौन-सा डेटा उपयोग करता है, और उसकी सीमाएँ क्या हैं। Explainability का मतलब है नतीजे का ऐसा कारण दे पाना जिसे व्यक्ति समझ और चुनौती दे सके: कौन-से कारक मायने रखते थे, और क्या बदलने से नतीजा बदलता। जिन निर्णयों का लोगों पर बड़ा असर पड़ता है, उनके लिए नतीजे को चुनौती देने का तरीक़ा और इंसान तक पहुँचने का रास्ता दें। ज़्यादा दावे करना ("हमारा AI पक्षपात-रहित है") अपने आप में नैतिक समस्या है; बताएँ कि आपने क्या परखा और क्या नहीं जानते।

स्पष्ट सूचना और अच्छा स्पष्टीकरण

अस्पष्ट संस्करण की तुलना उपयोगी वाले से करें। उपयोगी स्पष्टीकरण कारकों और अपील के रास्ते का नाम बताता है।

Notice:       "You are chatting with an AI assistant. It can make mistakes.
               A human agent is available at any time: type AGENT."

Vague:        "Your application was declined by our system."

Useful:       "Your application was declined mainly because reported income is
               below the minimum for this product (about 40% weight) and the
               credit history is under 12 months (about 25%). You can submit
               updated documents or request a human review within 30 days."

इंसान होने का दिखावा न करें

बिना बताए bot को इंसानी नाम और फ़ोटो देना लोगों को भ्रमित करता है। छोटा, मित्रवत खुलासा उस छिपी मशीन से ज़्यादा भरोसा बनाता है जो पकड़ी जाए।

त्वरित जाँच: किसी निर्णय के स्पष्टीकरण को उपयोगी क्या बनाता है?

• वह कहता है "system ने तय किया"
• वह मुख्य कारक और नतीजे को चुनौती देने का तरीक़ा बताता है
• वह जितना हो सके लंबा है
• वह उपयोग हुआ डेटा छिपाता है