पाठ 20 / 29
बातचीत की स्मृति और सार
Window भरे बिना लंबी बातचीत संगत रखें।
जो मायने रखता है वह याद रखें
Calls के बीच मॉडल stateless हैं, इसलिए "स्मृति" आपको बनानी पड़ती है। विकल्प: अंतिम N turns भेजें (सरल, शुरुआती तथ्य भूलता है); पुराने turns का चलता सार और हाल वाले शब्दशः रखें; टिकाऊ तथ्य और पसंद (नाम, भाषा, परियोजना) छोटी संरचित profile में रखें जिसे आप हमेशा शामिल करें; या वर्तमान सवाल से संबंधित पुराने संदेश retrieve करें। सार ब्योरे छोड़ या बिगाड़ सकते हैं, इसलिए मुख्य तथ्य अलग रखें, users को संचित स्मृति देखने व संपादित करने दें, और स्पष्ट उद्देश्य व सहमति के बिना संवेदनशील डेटा न रखें।
Users को संचित स्मृति देखने दें
सहायक सत्रों के बीच कुछ याद रखे तो उसे दिखाएँ और संपादन या हटाने दें।
त्वरित जाँच: बातचीत की स्मृति आपको क्यों बनानी पड़ती है?
- मॉडल में tokens नहीं होते
- मॉडल पिछली calls ख़ुद याद नहीं रखता
- स्मृति अवैध है
- APIs इतिहास मना करती हैं
Answer
मॉडल पिछली calls ख़ुद याद नहीं रखता — हर API call सिर्फ़ वही देखती है जो आप उसमें शामिल करें।