# Applications के लिए AI Safety का मतलब — AI Safety, Evaluation और Cost Control

Source: https://www.geekswithgeeks.com/hi/ai-safety/found-what-safety

> Application-स्तर की safety को users, व्यवसाय और तीसरे पक्षों को नुक़सान से बचाने के रूप में परिभाषित करें।

## Safety उत्पाद का गुण है

जब आप language model के साथ बनाते हैं तो **पूरे application** के व्यवहार की ज़िम्मेदारी आपकी है, सिर्फ़ model की नहीं। यहाँ **AI safety** का मतलब नुक़सान की संभावना और असर घटाना है: ग़लत या गढ़े उत्तर, हानिकारक सामग्री, निजी डेटा का leak, अनुचित व्यवहार, बुरे लोगों द्वारा दुरुपयोग, और users का अति-भरोसा। Model providers अपने safeguards जोड़ते हैं, पर वे आपके users, डेटा या संदर्भ को नहीं जान सकते, इसलिए application-स्तर के नियंत्रण फिर भी आपका काम हैं।

## सुरक्षा की परतें

सुरक्षित LLM applications अच्छी prompts, filters, grounded डेटा, सीमित tools और इंसानी निगरानी को जोड़ती हैं।

![चार परतें: input, model, output, निगरानी।](assets/figures/ai-safety/section-1-map.svg) — चित्र 1.1 — Input, model, output और निगरानी।

## रेस्तरां की रसोई

आपूर्तिकर्ता सुरक्षित सामग्री देता है, फिर भी रेस्तरां को स्वच्छता नियम, allergy लेबल और तापमान जाँच चाहिए। आपूर्तिकर्ता की गुणवत्ता रसोई की ज़िम्मेदारी की जगह नहीं लेती।

## पहले देखें किसे नुक़सान हो सकता है

हर feature के लिए सूची बनाएँ कि किसे और कैसे नुक़सान हो सकता है (ग़लत चिकित्सा सलाह पाने वाला छात्र, जिसका डेटा उजागर हो वह ग्राहक, जिसका अनुचित वर्णन हो वह व्यक्ति)। यह सूची बताती है कि safeguards कहाँ सबसे ज़्यादा मायने रखते हैं।

**Quiz:** LLM application के व्यवहार की ज़िम्मेदारी किसकी है?

- [ ] सिर्फ़ model provider
- [ ] कोई नहीं
- [x] Application बनाने और चलाने वाली टीम
- [ ] सिर्फ़ अंतिम user

*Answer:* Application बनाने और चलाने वाली टीम. Providers safeguards जोड़ते हैं, पर context, डेटा, tools और deployment application के मालिक के नियंत्रण में हैं।