पाठ 11 / 25
Context का बजट
Context को बजट मानें और जो मौजूदा step में काम न आए उसे हटाएँ।
ज़्यादा बेहतर नहीं
हर file, tool result और message tokens लेता है। Window भरने पर ख़र्च और latency बढ़ते हैं और model शुरुआती निर्देशों का सिरा खो सकता है। अच्छा agent design वही डालता है जो अगले निर्णय को चाहिए।
सीमित मेज़
Context window सीमित कार्यस्थल है। आप क्या और किस क्रम में रखते हैं, यही काम की गुणवत्ता तय करता है।
पढ़ाई की मेज़
हर पाठ्यपुस्तक से लदी मेज़ पर ज़रूरी पन्ना ढूँढना कठिन होता है। सिर्फ़ आज का अध्याय खुला रखने से आप तेज़ होते हैं।
पहले खोजें, फिर पढ़ें
पूरी बड़ी files पढ़ने की जगह लक्षित tools (grep, line ranges) चुनें। पूरा module नहीं, ख़ास function माँगें।
त्वरित जाँच: Context window भरने पर आम तौर पर क्या होता है?
- उत्तर हमेशा सुधरते हैं
- ख़र्च और latency बढ़ते हैं और शुरुआती बातें छूट सकती हैं
- Model restart हो जाता है
- कुछ नहीं बदलता
Answer
ख़र्च और latency बढ़ते हैं और शुरुआती बातें छूट सकती हैं — ज़्यादा tokens ज़्यादा ख़र्च कराते हैं और शुरुआती निर्देशों पर ध्यान घटा सकते हैं।