# Fallbacks और शालीन गिरावट — Claude API / OpenAI API की बुनियाद

Source: https://www.geekswithgeeks.com/hi/llm-apis/r-fallback

> API धीमी या बंद हो तब भी उत्पाद को उपयोगी रखें।

## हर निर्भरता के लिए Plan B

कोई भी बाहरी API कभी धीमी या अनुपलब्ध होगी। पहले से तय करें कि आपका उत्पाद क्या करेगा: **साफ़ संदेश** दिखाएँ और user को retry करने दें; अनुरोध **queue** करें और पूरा होने पर सूचित करें; **cached** या सरल उत्तर दें; **दूसरे मॉडल या provider** पर जाएँ (prompts और parsing provider-निरपेक्ष रखें, और fallback को नियमित परखें); या **मनुष्य** को सौंपें। **Circuit breaker** उपयोग करें ताकि बार-बार विफलता के बाद आप timeouts ढेर करने की जगह थोड़ी देर call करना रोकें। Error दर, latency percentiles और fallback उपयोग मॉनिटर करें, और बदलने पर alert दें। शालीन विफलता सुविधा का हिस्सा है, बाद का विचार नहीं।

**Quiz:** बार-बार विफलता के बाद circuit breaker क्या करता है?

- [x] Timeouts ढेर होने से बचाने को कुछ देर calls रोकता है
- [ ] API key हटाता है
- [ ] Retries दोगुने करता है
- [ ] Logging बंद करता है

*Answer:* Timeouts ढेर होने से बचाने को कुछ देर calls रोकता है. तेज़ विफलता आपके system को बचाती है और dependency को सुधरने का समय देती है।