संस्करण, लागत, Latency और सुरक्षा

Pin करें, मापें, बचाएँ

संस्करण: दोनों libraries तेज़ी से विकसित होती हैं और कई packages में पुनर्गठित हुई हैं, इसलिए lockfile में सटीक संस्करण pin करें, upgrade से पहले release notes पढ़ें, और टूट पकड़ने वाले tests रखें। लागत और latency: प्रति call token उपयोग log करें, output tokens सीमित करें, कम पर बेहतर chunks retrieve करें, दोहराया काम cache करें (embeddings, समान queries, prompt प्रीफ़िक्स), उत्तर stream करें, और आसान चरणों के लिए छोटा मॉडल उपयोग करें। सुरक्षा: API keys environment variables या secrets manager में रखें, कोड या prompts में कभी नहीं; retrieval के भीतर access control लगाएँ; retrieved पाठ को अविश्वसनीय मानें; logging या tracing से पहले संवेदनशील डेटा redact करें; तृतीय-पक्ष loaders और integrations की समीक्षा करें, क्योंकि वे आपकी अनुमतियों से कोड चलाते हैं।

Pin की हुई requirements फ़ाइल (उदाहरण)

जिन संस्करणों से परखा उन्हें pin करें। दिखाई संख्याएँ इस कोर्स के उदाहरण चलाने में प्रयुक्त संस्करण हैं; अपने प्रोजेक्ट के अनुकूल संस्करण चुनें।

# requirements.txt
langchain-core==1.6.6
langchain-text-splitters==1.1.2
llama-index-core==0.14.25
# add provider packages (e.g. langchain-openai) with exact versions too

त्वरित जाँच: Library संस्करण pin क्यों करें?

• Pinning मॉडल को होशियार बनाता है
• ये libraries जल्दी बदलती हैं और upgrades कोड तोड़ सकते हैं
• यह Python के लिए ज़रूरी है
• यह token लागत घटाता है