State और Memory

Model कुछ याद नहीं रखता

हर API call स्वतंत्र है। "Memory" वही messages सूची है जिसे आप हर बार दोबारा भेजते हैं। लंबा इतिहास tokens ख़र्च कराता है और window पार कर सकता है, इसलिए असली systems पुरानी बारियों को छाँटते या सार बनाते हैं और स्थायी तथ्य (user की पसंद, पिछले नतीजे) database या file में रखते हैं जो ज़रूरत पर लोड होती है।

एक नोटबुक

याददाश्त के बिना व्यक्ति नोटबुक रखता है और हर दिन शुरू में संबंधित पन्ना दोबारा पढ़ता है। नोटबुक storage है; जो पन्ना वह पढ़ता है वह context है।

आँख मूँदकर काटें नहीं, छाँटें

इतिहास बढ़े तो पुरानी बारियों का सार बनाएँ, पर मूल काम, मुख्य निर्णय और जिन tool results की अब भी ज़रूरत है उन्हें रखें। सबसे पुराने messages आँख मूँदकर काटने से वही निर्देश छूट सकता है जिस पर काम टिका है।

त्वरित जाँच: बातचीत में memory क्यों दिखती है?

• Model उसे अपने weights में स्थायी रूप से रखता है
• ऐप हर बार पिछले messages दोबारा भेजता है
• Server कभी restart नहीं होता
• Browsers model को cache करते हैं