मॉडल आपका Prompt कैसे पढ़ते हैं

Tokens अंदर, संभावनाएँ बाहर

मॉडल आपके prompt को tokens में बाँटता है, अपनी context window के भीतर सब एक साथ पढ़ता है, फिर उत्तर एक-एक token करके बनाता है, हर एक उस सबके आधार पर बने संभावना वितरण से चुना जाता है जो पहले आ चुका। परिणाम: (1) वह सिर्फ़ prompt और अपने प्रशिक्षण में जो है वही जानता है, इसलिए छूटे तथ्य आपको देने होंगे; (2) शब्दांकन के छोटे बदलाव संभावनाएँ खिसकाकर उत्तर बदल सकते हैं; (3) शुरुआत और अंत के पास का पाठ अक्सर बहुत लंबे बीच में दबे ब्योरों से अधिक भरोसे से उपयोग होता है; (4) sampling तय न हो तो उत्तर हर बार एक-से होने की गारंटी नहीं।

जो नहीं कहा उसे कहें

जिस बात पर इंसान स्पष्टीकरण माँगता, उसका उत्तर prompt में चाहिए। दर्शक, बाधाएँ और परिभाषाएँ शामिल करें।

त्वरित जाँच: मॉडल जो तथ्य नहीं जानता उन्हें क्यों शामिल करें?

• उसके पास सिर्फ़ prompt और प्रशिक्षण है, आपका निजी डेटा नहीं
• मॉडल अपना प्रशिक्षण भूल जाते हैं
• तथ्य उत्तर छोटा करते हैं
• यह HTTP का नियम है