Impact Assessments

शिप से पहले सोचें

AI impact assessment (कभी-कभी privacy assessment के साथ मिलाया हुआ, जहाँ आवश्यक हो उसे DPIA भी कहते हैं) इन पर चलता है: उद्देश्य और लाभ, प्रभावित लोग, उपयोग हुआ डेटा और उसका वैध आधार, पूर्वानुमेय नुक़सान और उनकी संभावना, समूहों में निष्पक्षता सहित परीक्षण नतीजे, safeguards और इंसानी निगरानी, लोग निर्णयों को कैसे चुनौती दे सकते हैं, और निगरानी व समीक्षा की योजना। इसे launch से पहले करें, build टीम के बाहर किसी से review कराएँ, और system बदलने पर अपडेट करें। नियामक या ग्राहक पूछें कि आपने कैसे तय किया, तब यह दस्तावेज़ आपका प्रमाण भी है।

आकलन की रूपरेखा

Template आकलन को एक-सा बनाता है। उत्तर छोटे हों तो चलेगा, यदि वे विशिष्ट और ईमानदार हैं।

1 Purpose and expected benefit         2 Who is affected (incl. non-users)
3 Data used, source, lawful basis, retention 4 Foreseeable harms: likelihood x severity
5 Evaluation results, incl. group gaps      6 Safeguards and human oversight
7 How people can contest or get help        8 Monitoring plan, review date, owner
9 Independent reviewer and sign-off         10 Residual risk accepted by (name, date)

त्वरित जाँच: AI impact assessment कब किया जाना चाहिए?

• Launch से पहले, और system बदलने पर अपडेट
• सिर्फ़ शिकायत के बाद
• कभी नहीं
• एक बार, फिर भुला दिया