पाठ 25 / 29

हर LLM सुविधा को चाहिए सुरक्षा की बुनियाद

मुख्य नियंत्रण लगाएँ; गहराई के लिए सुरक्षा और AI-safety कोर्स देखें।

छोटी सूची जो अधिकांश परेशानी रोकती है

हर LLM सुविधा, चाहे कितनी भी छोटी, में ये नियंत्रण होने चाहिए। मॉडल आउटपुट को अविश्वसनीय मानें (escape, parameterise, validate)। Retrieved और user सामग्री को अविश्वसनीय निर्देश मानें: fence और लेबल करें, कभी अनुमतियाँ देने न दें। tools और डेटा के लिए न्यूनतम विशेषाधिकार, प्रति-user authorisation और जोखिम भरी कार्रवाइयों के लिए मानव अनुमोदन। Prompts या logs में secrets नहीं; व्यक्तिगत डेटा redact करें। Rate limits और ख़र्च सीमाएँ। अपने दर्शकों के अनुरूप सामग्री सुरक्षा (moderation, इनकार व्यवहार, स्वास्थ्य या आत्म-हानि जैसे संवेदनशील विषयों के लिए escalation रास्ते)। ईमानदार UX: users को बताएँ कि वे AI से बात कर रहे हैं, स्रोत दिखाएँ, अनिश्चितता व्यक्त करें और मनुष्य का विकल्प दें। CI में red-team tests। LLM application security और AI safety के समर्पित कोर्स इनमें से हर एक को गहराई से कवर करते हैं; यह checklist launch से पहले पार करने का न्यूनतम मानक है।

डिज़ाइन से ज़िम्मेदार, दस्तावेज़ित, साझा

सुरक्षा की बुनियाद, privacy, दस्तावेज़ और स्पष्ट भूमिकाएँ LLM सुविधाओं को भरोसेमंद रखती हैं जब वे और टीम बढ़ती हैं।

तीन ज़रूरतें: सुरक्षित, जवाबदेह, दस्तावेज़ित।
चित्र 7.1 — सुरक्षित, जवाबदेह और दस्तावेज़ित।

Launch-पूर्व सुरक्षा checklist

हर box भरें या लिखें क्यों नहीं।

[ ] model output escaped / parameterised / schema-validated before any use
[ ] retrieved + user content fenced, labelled as data; cannot grant permissions
[ ] tools least-privilege; per-user authorisation; approvals for risky actions; default-deny policy
[ ] no secrets in prompts/logs; PII minimised and redacted
[ ] rate limits, token/step caps, spend cap + alert
[ ] content-safety behaviour tested (refusals, sensitive topics, escalation to a human)
[ ] UX: AI disclosure, sources shown, uncertainty expressed, human handoff available
[ ] red-team suite in CI; incident runbook + kill switches rehearsed

Kill switch का अभ्यास करें

Staging में tool या सुविधा बंद करें और पुष्टि करें कि app शालीनता से घटता है।

त्वरित जाँच: LLM सुविधा के ईमानदार UX का हिस्सा कौन-सा है?

  • सारी अनिश्चितता छिपाना
  • मनुष्य होने का दिखावा
  • Users को बताना कि यह AI है, स्रोत दिखाना और मनुष्य का विकल्प देना
  • Citations हटाना
Answer

Users को बताना कि यह AI है, स्रोत दिखाना और मनुष्य का विकल्प देना — पारदर्शिता उचित भरोसा बनाती है और ग़लत उत्तरों से नुक़सान घटाती है।