पाठ 24 / 29
चरणबद्ध Rollouts, Shadow Mode और Rollback
Prompt और मॉडल बदलाव क्रमिक रूप से जारी करें और उन्हें पलटने में सक्षम रहें।
पहले थोड़े traffic पर साबित करें
Offline मूल्यांकन पास करने के बाद भी बदलाव असली traffic पर अलग व्यवहार कर सकता है। चरणों में जारी करें: shadow mode (live अनुरोधों पर नया संस्करण समानांतर चलाएँ, आउटपुट log करें, users को पुराना दिखाएँ, ऑफ़लाइन तुलना करें); canary (traffic का 1 से 5% नए संस्करण को भेजें और गुणवत्ता, latency, लागत, error व प्रतिक्रिया metrics देखें); फिर संख्याएँ टिकें तो बढ़ाएँ (25%, 50%, 100%)। पुराना संस्करण तैनात रखें और redeploy की जगह configuration या feature flag से नियंत्रित एक-चरण rollback रखें। User-दिखने वाले बदलावों के लिए स्पष्ट सफलता metric और उस अंतर को पहचानने लायक़ पर्याप्त traffic के साथ A/B test चलाएँ; शोर के सबक़ याद रखें: छोटे अंतरों को कई नमूने चाहिए। पहले से तय करें कि कौन-सा परिणाम rollback ट्रिगर करता है, और कौन निर्णय करता है। बदलाव support और product टीमों को बताएँ ताकि उन्हें पता हो व्यवहार कब बदलता है।
Rollout योजना
हर चरण की अवधि, देखने की सूची और rollback नियम है। संख्याएँ उदाहरण हैं।
stage traffic duration watch rollback if
shadow 0% (logged) 2 days judge score vs old, cost, latency new version loses by > noise margin
canary 2% 1 day validity rate, p95, thumbs-down, cost p95 +30% or validity < 99%
ramp 1 25% 2 days same + category breakdown any category -5 points
ramp 2 50% 2 days same any critical safety event
full 100% keep old dashboards + alerts one-step switch to previous releaseRollback नियम पहले तय करें
लिखें कि कौन-सा परिणाम rollback ट्रिगर करता है और कौन निर्णय करता है।
त्वरित जाँच: Shadow mode क्या करता है?
- पुराना संस्करण हटाता है
- नया संस्करण तुरंत सबको दिखाता है
- नए संस्करण को live अनुरोधों पर चलाता है, उसका आउटपुट users को दिखाए बिना, तुलना के लिए
- Logging बंद करता है
Answer
नए संस्करण को live अनुरोधों पर चलाता है, उसका आउटपुट users को दिखाए बिना, तुलना के लिए — यह users के जोखिम के बिना असली-traffic प्रमाण देता है।