AI Risk Register

संभावना गुणा प्रभाव

Risk register हर जोखिम को संभावना (1 से 5), प्रभाव (1 से 5), उनके गुणनफल के score, मालिक और निवारण के साथ सूचीबद्ध करता है। आम AI जोखिम: ग़लत या गढ़े outputs, privacy leaks, पक्षपाती नतीजे, prompt injection जैसे सुरक्षा हमले, vendor पर निर्भरता या outage, ऐसे model बदलाव जो व्यवहार बदल दें, क़ानूनी या नियामकीय उल्लंघन, प्रतिष्ठा को नुक़सान, और कर्मचारियों की अति-निर्भरता। Register की नियमित समीक्षा करें, क्योंकि नया डेटा, नए features और नए नियम scores बदलते हैं।

नाम दें, अंक दें, उपचार करें

जोखिम प्रबंधन अस्पष्ट चिंताओं को मालिकों और कर्मों वाली क्रमबद्ध सूची में बदलता है।

Register को क्रम देना, चलाकर

मैंने यह चलाया। दुर्लभ पर गंभीर पक्षपाती नतीजा (संभावना 3, प्रभाव 5) 15 अंक पाकर सूची में सबसे ऊपर आता है, ज़्यादा बार होने वाले hallucination (12) से आगे।

risks = [("Hallucinated answer sent to customer", 4, 3),
         ("PII leak via logs", 2, 5),
         ("Vendor outage", 3, 2),
         ("Biased outcome", 3, 5)]

def band(s): return "HIGH" if s >= 15 else "MEDIUM" if s >= 8 else "LOW"

for name, l, i in sorted(risks, key=lambda r: -r[1] * r[2]):
    print(l * i, band(l * i), name)

Output:

15 HIGH Biased outcome
12 MEDIUM Hallucinated answer sent to customer
10 MEDIUM PII leak via logs
6 LOW Vendor outage

पहले ऊँचे scores, पर प्रभाव भी देखें

गुणा करना दुर्लभ विनाशकारी जोखिम को बार-बार होने वाले छोटे जोखिमों के पीछे छिपा सकता है। बहुत उच्च-प्रभाव (प्रभाव 5) वाले किसी भी जोखिम पर, संभावना score चाहे जो हो, विशेष ध्यान दें।

त्वरित जाँच: सरल register में जोखिम score कैसे निकाला जाता है?

• संभावना जमा लागत
• संभावना गुणा प्रभाव
• Users की संख्या
• Model का आकार