# हर LLM सुविधा को चाहिए सुरक्षा की बुनियाद — LLM Engineering की बुनियाद

Source: https://www.geekswithgeeks.com/hi/llm-engineering/g-safety

> मुख्य नियंत्रण लगाएँ; गहराई के लिए सुरक्षा और AI-safety कोर्स देखें।

## छोटी सूची जो अधिकांश परेशानी रोकती है

हर LLM सुविधा, चाहे कितनी भी छोटी, में ये नियंत्रण होने चाहिए। **मॉडल आउटपुट को अविश्वसनीय मानें** (escape, parameterise, validate)। **Retrieved और user सामग्री को अविश्वसनीय निर्देश मानें**: fence और लेबल करें, कभी अनुमतियाँ देने न दें। tools और डेटा के लिए **न्यूनतम विशेषाधिकार**, **प्रति-user authorisation** और जोखिम भरी कार्रवाइयों के लिए **मानव अनुमोदन**। **Prompts या logs में secrets नहीं**; व्यक्तिगत डेटा redact करें। **Rate limits और ख़र्च सीमाएँ।** अपने दर्शकों के अनुरूप **सामग्री सुरक्षा** (moderation, इनकार व्यवहार, स्वास्थ्य या आत्म-हानि जैसे संवेदनशील विषयों के लिए escalation रास्ते)। **ईमानदार UX**: users को बताएँ कि वे AI से बात कर रहे हैं, स्रोत दिखाएँ, अनिश्चितता व्यक्त करें और मनुष्य का विकल्प दें। **CI में red-team tests।** LLM application security और AI safety के समर्पित कोर्स इनमें से हर एक को गहराई से कवर करते हैं; यह checklist launch से पहले पार करने का न्यूनतम मानक है।

## डिज़ाइन से ज़िम्मेदार, दस्तावेज़ित, साझा

सुरक्षा की बुनियाद, privacy, दस्तावेज़ और स्पष्ट भूमिकाएँ LLM सुविधाओं को भरोसेमंद रखती हैं जब वे और टीम बढ़ती हैं।

![तीन ज़रूरतें: सुरक्षित, जवाबदेह, दस्तावेज़ित।](assets/figures/llm-engineering/section-7-map.svg) — चित्र 7.1 — सुरक्षित, जवाबदेह और दस्तावेज़ित।

## Launch-पूर्व सुरक्षा checklist

हर box भरें या लिखें क्यों नहीं।

```text
[ ] model output escaped / parameterised / schema-validated before any use
[ ] retrieved + user content fenced, labelled as data; cannot grant permissions
[ ] tools least-privilege; per-user authorisation; approvals for risky actions; default-deny policy
[ ] no secrets in prompts/logs; PII minimised and redacted
[ ] rate limits, token/step caps, spend cap + alert
[ ] content-safety behaviour tested (refusals, sensitive topics, escalation to a human)
[ ] UX: AI disclosure, sources shown, uncertainty expressed, human handoff available
[ ] red-team suite in CI; incident runbook + kill switches rehearsed
```

## Kill switch का अभ्यास करें

Staging में tool या सुविधा बंद करें और पुष्टि करें कि app शालीनता से घटता है।

**Quiz:** LLM सुविधा के ईमानदार UX का हिस्सा कौन-सा है?

- [ ] सारी अनिश्चितता छिपाना
- [ ] मनुष्य होने का दिखावा
- [x] Users को बताना कि यह AI है, स्रोत दिखाना और मनुष्य का विकल्प देना
- [ ] Citations हटाना

*Answer:* Users को बताना कि यह AI है, स्रोत दिखाना और मनुष्य का विकल्प देना. पारदर्शिता उचित भरोसा बनाती है और ग़लत उत्तरों से नुक़सान घटाती है।