मूल नैतिक सिद्धांत

साझा शब्दावली

कई संगठन और निकाय (जैसे OECD AI Principles और UNESCO की AI नैतिकता पर सिफ़ारिश) मिलते-जुलते विचारों पर पहुँचते हैं: निष्पक्षता और भेदभाव-रहितता, पारदर्शिता और व्याख्या-योग्यता, जवाबदेही, privacy और डेटा संरक्षण, सुरक्षा और मज़बूती, इंसानी निगरानी, और लोगों व समाज को लाभ। सिद्धांत अमूर्त हैं, इसलिए हर टीम को उन्हें launch से पहले पूछे जाने वाले सवालों में बदलना चाहिए।

सिद्धांतों से व्यवहार तक

नैतिक सिद्धांत तभी मायने रखते हैं जब वे असली projects में सवाल, जाँच और निर्णय बनें।

सिद्धांत सवालों के रूप में

इन्हें project template में रखें ताकि ये हर बार, डिफ़ॉल्ट रूप से, पूछे जाएँ।

Fairness        Does it work equally well for all groups of users we serve?
Transparency    Will users know AI is involved, and can we explain the outcome?
Accountability  Who is answerable if it harms someone? Who can fix it?
Privacy         Do we use only the personal data we need, with a lawful basis?
Safety          What is the worst realistic failure, and how do we contain it?
Human oversight Which decisions can a person review and override?
Benefit         Who gains, and could anyone be worse off?

नैतिकता सिर्फ़ अनुपालन नहीं

कोई चीज़ क़ानूनी होकर भी अनुचित या नासमझी भरी हो सकती है। क़ानून को न्यूनतम आधार मानें, और ऊपर के सवालों से जाँचें कि क्या डिज़ाइन ऐसा है जिसे आप उन लोगों को खुलकर समझा सकें जिन्हें वह प्रभावित करता है।

त्वरित जाँच: टीम को नैतिक सिद्धांतों का उपयोग कैसे करना चाहिए?

• क़ानून अनुमति दे तो अनदेखा करें
• पोस्टर पर छापकर आगे बढ़ जाएँ
• उन्हें launch से पहले पूछे जाने वाले ठोस सवालों में बदलें
• Vendor पर छोड़ दें