केस स्टडी: Research Agent का Budget

काम से तर्क करें

Research agent खोजता है, pages पढ़ता है और 1 पन्ने की रिपोर्ट लिखता है। खोजें सस्ती हैं पर page text बड़ा है, इसलिए हर page को लगभग 4,000 tokens तक काटें। 20 steps, कुल 150,000 tokens और 3 मिनट की अनुमति दें। दोहराई गई खोज पर जल्दी रुकें। किसी भी सीमा के 90% पर बिना tools की समापन call करें जो बताए क्या मिला। हर step के बाद checkpoint सहेजें और हर run का एक metrics रिकॉर्ड log करें।

शुरू से अंत तक सुरक्षित loop

सीमाएँ, दोहराव पहचान, context नियंत्रण, सहज समापन और metrics को एक डिज़ाइन में जोड़ें।

एक पन्ने पर डिज़ाइन

हर पंक्ति इस कोर्स के एक खंड से जुड़ती है। अंक असली runs से ट्यून करें।

Limits       20 steps, 150k tokens, 180 s, $1.00        (Sec 2)
Guards       RepeatGuard, 3 consecutive tool failures     (Sec 2, 5)
Context      clip pages to ~4k tokens, summarise at 60%   (Sec 3, 4)
Caching      stable system prompt + tool defs first       (Sec 3)
Ending       wrap-up call at 90%, handover on failure     (Sec 6)
Visibility   one JSON record per run, stop reason logged  (Sec 7)

त्वरित जाँच: Research agent में हर लाए गए page को क्यों काटें?

• Pages कभी उपयोगी नहीं होते
• बड़ा page text हर बारी दोबारा भेजा जाता है और ख़र्च बढ़ाता है
• API pages मना करता है
• काटने से network तेज़ होता है