पाठ 24 / 27
Privacy, डेटा सँभाल और अनुपालन
जानें आपके system से क्या बाहर जाता है और provider उसका क्या करता है।
Prompt वह डेटा है जो आप किसी और को भेजते हैं
अनुरोध में जो कुछ है वह आपके infrastructure से बाहर जाता है। ग्राहक डेटा भेजने से पहले provider की डेटा-उपयोग और retention शर्तें (क्या API डेटा प्रशिक्षण में उपयोग होता है, कितने समय रखा जाता है, शून्य या सीमित retention के विकल्प, क्षेत्रीय प्रसंस्करण), अपने अनुबंध और क़ानून (जैसे privacy और क्षेत्रीय नियम), और डेटा-प्रसंस्करण समझौते की ज़रूरत जाँचें। जोखिम घटाएँ: न्यूनतम भेजें, व्यक्तिगत डेटा redact या pseudonymise करें (नाम और IDs को placeholders से बदलें, बाद में वापस जोड़ें), secrets भेजने से बचें, और क्या भेजा गया उसका audit trail रखें। Users को बताएँ कि वे AI से बात कर रहे हैं और क्या सहेजा जाता है, और उच्च-जोखिम निर्णयों (चिकित्सा, क़ानूनी, वित्तीय, भर्ती) के लिए मनुष्य को ज़िम्मेदार रखें।
Pseudonymise करें, call करें, बहाल करें (उदाहरण)
Provider को ग्राहक के नाम और ईमेल की जगह placeholders दिखते हैं। यहाँ चलाया नहीं गया।
mapping = {"[NAME_1]": "Asha Verma", "[EMAIL_1]": "asha@example.com"}
prompt = "Draft a polite reply to [NAME_1] ([EMAIL_1]) about her delayed order."
reply = call_model(prompt) # provider never sees the real name or email
for placeholder, real in mapping.items(): # restore locally, after the call
reply = reply.replace(placeholder, real)Placeholders स्थानीय रूप से वापस जोड़ें
Placeholder-से-असली मैपिंग अपने system में रखें और उत्तर के बाद बहाल करें, ताकि provider असली मान कभी न देखे।
त्वरित जाँच: ग्राहक डेटा provider को भेजने से पहले अच्छा पहला क़दम क्या है?
- शर्तें अनदेखी करें
- संदर्भ के लिए सब भेजें
- डेटा-retention शर्तें जाँचें, न्यूनतम भेजें और व्यक्तिगत डेटा redact करें
- सिर्फ़ logging बंद करें
Answer
डेटा-retention शर्तें जाँचें, न्यूनतम भेजें और व्यक्तिगत डेटा redact करें — डेटा न्यूनतमीकरण और स्पष्ट शर्तें क़ानूनी व privacy जोखिम घटाती हैं।