पाठ 29 / 29
Revision: Cheat Sheet और Self-Check
पूरे कोर्स के मुख्य विचार दोहराएँ।
Cheat sheet
मॉडल: StateGraph(State); nodes आंशिक अद्यतन लौटाते हैं; reducers (operator.add, add_messages) जमा करते हैं; compile() invoke/stream वाला app देता है। प्रवाह: routing के लिए conditional edges, समाप्ति नियम और सीमा वाले loops, सुरक्षा जाल के रूप में recursion_limit, गतिशील हस्तांतरण के लिए Command(update, goto), समानांतर map-reduce के लिए Send। Agents: model node ↔ tools node loop; tool नाम और arguments validate करें; उबरने-योग्य errors वाले संकरे, अच्छी तरह प्रलेखित tools; चरण, token, समय और लागत सीमाएँ। स्मृति: checkpointer + thread_id (अल्पकालिक), namespaces वाला store (दीर्घकालिक), replay और time travel के लिए state इतिहास, लंबे इतिहास trim और सार। नियंत्रण: interrupt() + Command(resume=...) को checkpointer चाहिए; अस्थायी errors के लिए RetryPolicy; stream modes updates, values, messages, custom। Multi-agent: एक agent से शुरू करें; supervisor, हस्तांतरण (ping-pong से बचाव), sub-graphs और पदानुक्रम; ये ज़्यादा ख़र्च करते हैं। Ship: scripted-model tests, परिणाम + trajectory + सुरक्षा मूल्यांकन, टिकाऊ checkpointer, redaction के साथ tracing, न्यूनतम विशेषाधिकार, अनुमोदन, kill switch।
त्वरित जाँच: दो समानांतर nodes एक ही चरण में एक ही state key लिखते हैं। आपको क्या चाहिए?
- बड़ा मॉडल
- अद्यतन मिलाने की विधि तय करने वाला reducer
- नया checkpointer
- कुछ नहीं, यह हमेशा चलता है
Answer
अद्यतन मिलाने की विधि तय करने वाला reducer — Reducer के बिना एक key पर समवर्ती लिखावट टकराती है।
त्वरित जाँच: आपका agent कभी-कभी वही tool बुलाते हुए हमेशा loop करता है। कौन-सा संयोजन सबसे ज़्यादा मदद करता है?
- Checkpointer हटाना
- ऊँचा temperature
- और tools
- State में चरण सीमा, recursion limit और स्पष्ट stop condition
Answer
State में चरण सीमा, recursion limit और स्पष्ट stop condition — परतदार सीमाएँ loop को तब भी बाँधती हैं जब मॉडल कभी न रुके।
त्वरित जाँच: रुका हुआ interrupt server restart में कैसे बचता है?
- Thread state सहेजने वाला टिकाऊ checkpointer
- प्रक्रिया को सिर्फ़ memory में रखना
- बड़ी context window
- तेज़ GPU
Answer
Thread state सहेजने वाला टिकाऊ checkpointer — सहेजा हुआ checkpoint ही बाद में, दूसरी प्रक्रिया से भी, फिर शुरू होता है।