Use Cases के लिए Risk Tiers

अनुपातिक नियंत्रण

हर AI feature को एक-सी जाँच नहीं चाहिए। Tiering योजना use cases को संभावित नुक़सान के आधार पर छाँटती है: जैसे निषिद्ध (कभी अनुमति नहीं), उच्च (भर्ती, ऋण, शिक्षा या स्वास्थ्य जैसे क्षेत्रों में लोगों के बारे में निर्णय), सीमित (users से बात करता है, खुलासा चाहिए) और न्यूनतम (आंतरिक सहायक)। ऊँचे tiers को ज़्यादा testing, दस्तावेज़ीकरण, इंसानी निगरानी और वरिष्ठ मंज़ूरी मिलती है। इससे कम-जोखिम नवाचार तेज़ रहता है और प्रयास वहाँ लगता है जहाँ नुक़सान गंभीर हो सकता है। EU AI Act जैसे नियमन भी ऐसा ही tiered विचार उपयोग करते हैं, इसलिए आंतरिक tiers अच्छा शुरुआती बिंदु हैं।

Tiering function, चलाकर

मैंने यह चलाया। चारों उदाहरण use cases चार अलग tiers में आते हैं। असली वर्गीकरण को क़ानूनी सलाह और कहीं ज़्यादा मानदंड चाहिए; यह सिखाने का खाका है।

def tier(use):
    if use.get("social_scoring") or use.get("manipulative"):
        return "prohibited"
    if use.get("decides_on_people") and use.get("domain") in {"hiring", "credit", "education", "health"}:
        return "high"
    if use.get("interacts_with_users"):
        return "limited"
    return "minimal"

tests = [{"social_scoring": True},
         {"decides_on_people": True, "domain": "credit"},
         {"interacts_with_users": True},
         {"internal_summaries": True}]
print([tier(t) for t in tests])

Output:

['prohibited', 'high', 'limited', 'minimal']

उपयोग बदले तो tier दोबारा तय करें

बैठक सारांशकर्ता (न्यूनतम) जब प्रदर्शन समीक्षाओं में उपयोग होने लगे तो वह उच्च-प्रभाव वाला उपयोग बन गया। उद्देश्य, डेटा या दर्शक बदलने पर हर बार tier दोबारा जाँचें।

त्वरित जाँच: Risk tiers क्यों उपयोग करें?

• वे सिर्फ़ hardware पर लागू होते हैं
• सभी use cases को एक-से नियम मिलते हैं
• Tiers समीक्षा की ज़रूरत हटाते हैं
• हर project को बराबर धीमा किए बिना नियंत्रण जोखिम के स्तर से मेल खा सकते हैं