LLM Application Security

Language models पर बने applications को सुरक्षित करें: prompt injection, असुरक्षित आउटपुट सँभाल, अति-स्वायत्तता, डेटा लीक, RAG access control, supply chain, दुरुपयोग व लागत हमले, परीक्षण और घटना-प्रतिक्रिया, चलाए जा सकने वाले हमलों और बचावों के साथ।

कोर्स शुरू करें →

पाठ्यक्रम

LLM Apps को अपनी सुरक्षा-सोच क्यों चाहिए

1. LLM Applications में क्या अलग है
2. Assets, हमलावर और भरोसे की सीमाएँ
3. प्रभाव क्षेत्र: Compromised मॉडल क्या कर सकता है
4. मुख्य जोखिम-परिवारों का नक़्शा

Prompt Injection और Jailbreaks

1. प्रत्यक्ष और अप्रत्यक्ष Prompt Injection
2. Keyword Filters काफ़ी क्यों नहीं हैं
3. System Prompt लीक और Canary Tokens
4. Injection के विरुद्ध गहराई में बचाव

असुरक्षित Output सँभाल

1. नियम: मॉडल आउटपुट को user इनपुट की तरह मानें
2. मॉडल आउटपुट के रास्ते SQL Injection
3. Cross-Site Scripting और Markdown/Link Exfiltration
4. Command Injection और Path Traversal
5. URLs fetch करने वाले Tools: SSRF और Allow-Lists

अति-स्वायत्तता और Tool सुरक्षा

1. अति-व्यापक Tools, Permissions और स्वायत्तता
2. मॉडल के बाहर नीति Engine
3. छेड़छाड़-रहित मानव अनुमोदन
4. प्रति-User Authorisation और Audit Logging

डेटा की सुरक्षा: प्रकटन, RAG और Poisoning

1. संवेदनशील जानकारी का प्रकटन और Redaction
2. RAG Access Control और Vector Store सुरक्षा
3. Data Poisoning और अविश्वसनीय ज्ञान स्रोत

Supply Chain, दुरुपयोग और लागत हमले

1. मॉडल, Packages और Plugins dependencies के रूप में
2. Plugins, MCP Servers और Agent Tool पर भरोसा
3. असीमित खपत: Rate Limits और Denial of Wallet

परीक्षण, Monitoring और प्रतिक्रिया

1. Red-Teaming और Security Regression Tests
2. Monitoring, पहचान और Logging
3. घटना-प्रतिक्रिया और सुरक्षित विकास आदतें

सब कुछ जोड़ना

1. केस स्टडी: Customer-Support सहायक को सुरक्षित करना
2. Revision: Cheat Sheet और Self-Check