Files और Memory में बाहर रखना

डेटा नहीं, संकेतक रखें

20,000-token का दस्तावेज़ बातचीत में रखने की जगह उसे फ़ाइल में सहेजें और context में सिर्फ़ उसका path और दो पंक्ति का विवरण रखें। Agent फ़ाइल, या उसका हिस्सा, केवल ज़रूरत पर पढ़ता है। यही विचार notes फ़ाइल पर लागू होता है जहाँ agent निष्कर्ष दर्ज करता है ताकि वे छँटाई और restart के बाद भी बचें।

संदर्भ लौटाने वाला tool

बड़ी सामग्री disk पर जाती है। Model को छोटा handle दिखता है और वह किसी ख़ास हिस्से के लिए read_chunk बुला सकता है।

def fetch_report(url: str) -> str:
    path = save_to_workspace(download(url))
    return f"Saved to {path} ({size_kb(path)} KB). Use read_chunk(path, start, length)."

त्वरित जाँच: बड़ा दस्तावेज़ फ़ाइल में बाहर रखने पर context में क्या रहता है?

• पूरा दस्तावेज़
• सिर्फ़ छोटा संदर्भ, जैसे path और विवरण
• कुछ भी नहीं
• हर बारी के लिए एक copy