निष्पक्षता मापना

दो सरल दृष्टिकोण

Disparate impact अनुपात: एक समूह की अनुकूल-परिणाम दर को सबसे ऊँची दर वाले समूह की दर से भाग दें। लगभग 0.8 से कम अनुपात (कुछ अमेरिकी रोज़गार दिशानिर्देशों में प्रयुक्त "four-fifths अंगूठा-नियम") चेतावनी का संकेत है, हर जगह क़ानूनी फ़ैसला नहीं। Equal opportunity समूहों में true positive rate की तुलना करता है: जो लोग सचमुच योग्य हैं, उनमें क्या हर समूह उतनी ही बार मंज़ूर होता है? अलग निष्पक्षता मापदंड आपस में टकरा सकते हैं, और कोई भी संदर्भ के बारे में निर्णय की जगह नहीं लेता, इसलिए मापदंड domain और क़ानूनी विशेषज्ञों के साथ चुनें और सिर्फ़ अंक नहीं, कारण भी जाँचें।

Disparate impact और TPR अंतर, चलाकर

मैंने यह बनावटी अंकों से चलाया। समूह A 60% बार और समूह B 36% बार चुना जाता है, अनुपात 0.6, जो समस्या का संकेत देता है। योग्य लोगों में समूह A के 90% पर समूह B के सिर्फ़ 60% मंज़ूर होते हैं, 30 अंकों का अंतर।

a = 60 / 100          # group A selection rate
b = 36 / 100          # group B selection rate
ratio = round(b / a, 2)
print(a, b, ratio, "FLAG" if ratio < 0.8 else "ok")

def tpr(tp, fn): return tp / (tp + fn)
g1, g2 = tpr(45, 5), tpr(30, 20)   # qualified people approved / rejected
print(round(g1, 2), round(g2, 2), round(g1 - g2, 2))

Output:

0.6 0.36 0.6 FLAG
0.9 0.6 0.3

चेतावनी जाँच शुरू करती है

ख़राब अनुपात यह नहीं बताता कि क्यों। सुधार तय करने से पहले डेटा (क्या कोई समूह कम प्रतिनिधित्व वाला या अलग label किया गया है?), उपयोग हुए features और model के आसपास की प्रक्रिया जाँचें।

त्वरित जाँच: समूह A 60% बार और समूह B 36% बार चुना जाता है। Disparate impact अनुपात क्या है?

• 96
• 1.67
• 0.24
• 0.6