पाठ 25 / 25
Revision: Cheat Sheet और Self-Check
पूरे कोर्स का loop, stop-condition और budgeting का सार दोहराएँ।
Cheat sheet
बारी = call, जाँच, कर्म, जोड़ना। Stop reasons: end_turn, tool_use, max_tokens, stop_sequence। इतिहास दोबारा भेजे जाने से ख़र्च बारियों के वर्ग से बढ़ता है। सीमाएँ: steps, समय, tokens, पैसा, साथ में दोहराव पहचान और cancellation। पूरा होना जाँचने योग्य हो। Tokens: usage पढ़ें, output की जगह आरक्षित रखें, स्थिर prefix cache करें। Context: छाँटें, सार बनाएँ, बाहर रखें। विफलताएँ: दोहराव, छटपटाहट, भटकाव, फूलना, अधिक ख़र्च। समापन: समापन call, checkpoints, संरचित हस्तांतरण। गुणवत्ता: हर run के metrics, scripted model से tests।
इंटरव्यू में पूछे जाने वाले सवाल
इन्हें समझाने को तैयार रहें: agent का ख़र्च steps की संख्या से तेज़ क्यों बढ़ता है, कड़ी सीमा और प्रगति-न-होने की जाँच में अंतर, max_tokens सँभालना क्यों मायने रखता है, prompt caching कैसे काम करती है, बेक़ाबू loop को सुरक्षित रूप से कैसे रोकेंगे, और असली model बुलाए बिना loop कैसे परखेंगे।
त्वरित जाँच: एक run में 4 steps हैं और हर में कम tokens, फिर भी 10 मिनट लगते हैं। कौन-सी सीमा इसे पकड़ती?
- Step सीमा
- Token सीमा
- घड़ी का timeout
- Cost सीमा
Answer
घड़ी का timeout — धीमे या अटके tools समय खाते हैं, steps या tokens नहीं।
त्वरित जाँच: Loop आधा वाक्य उत्तर के रूप में लौटाता है। उसने सबसे संभावित रूप से क्या जाँचना छोड़ा?
- API key
- stop_reason "max_tokens"
- Operating system
- Tool नाम
Answer
stop_reason "max_tokens" — Output सीमा पर पहुँचा reply कटा होता है, और loop को उस मामले को स्पष्ट रूप से सँभालना चाहिए।
त्वरित जाँच: कौन-सा संयोजन चुपचाप ज़्यादा ख़र्च को सबसे अच्छी तरह रोकता है?
- सिर्फ़ step सीमा
- हर बारी जाँचा जाने वाला कुल token या cost budget
- लंबा system prompt
- Logging बंद करना
Answer
हर बारी जाँचा जाने वाला कुल token या cost budget — सिर्फ़ संचयी budget उस ख़र्च को पकड़ता है जो कई छोटे steps में जुड़ता है।