पाठ 6 / 25
कड़ी सीमाएँ: Steps, समय, Tokens, पैसा
समझदार डिफ़ॉल्ट सीमाएँ चुनें और तय करें कि हर एक के छूने पर क्या होगा।
चार स्वतंत्र सीमाएँ
कई सीमाएँ रखें क्योंकि हर एक अलग विफलता पकड़ती है। Steps अंतहीन loops पकड़ते हैं। घड़ी का समय धीमे या अटके tools पकड़ता है। Tokens context के फूलने को पकड़ते हैं। पैसा महँगे model के ज़्यादा उपयोग को पकड़ता है। किसी भी एक के छूते ही loop साफ़ कारण के साथ ख़त्म होना चाहिए।
डिफ़ॉल्ट एक जगह
इन संख्याओं को असली runs से ट्यून करने के लिए शुरुआती बिंदु मानें। सरल काम को शोध-काम से बहुत कम चाहिए।
LIMITS = {
"max_steps": 15,
"max_seconds": 120,
"max_total_tokens": 150_000,
"max_cost_usd": 1.00,
}अंत पहले से तय करें
हर सीमा के लिए तय करें: ज़ोर से विफल हों, आंशिक नतीजा लौटाएँ, या इंसान से पूछें। यह डिज़ाइन के समय तय करना, घटना के दौरान खोजने से बहुत बेहतर है।
त्वरित जाँच: मिनटों तक अटके tool call को कौन-सी सीमा सबसे अच्छी पकड़ती है?
- Step सीमा
- घड़ी के समय की सीमा
- Token सीमा
- Cost सीमा
Answer
घड़ी के समय की सीमा — अटका call कम steps और tokens लेता है पर असली समय बहुत लेता है।