लंबे Prompts: क्रम और स्थान

बीच खो जाता है

मॉडल अक्सर लंबे prompt की शुरुआत और अंत की जानकारी बीच के ब्योरों से अधिक भरोसे से उपयोग करते हैं। लंबे इनपुट के लिए व्यावहारिक लेआउट: दस्तावेज़ पहले रखें, फिर सवाल और निर्देश अंत में (और prompt बहुत लंबा हो तो मुख्य नियम संक्षेप में दोहराएँ); हर दस्तावेज़ को ID और शीर्षक से चिह्नित करें; सबसे प्रासंगिक सामग्री किनारों पर रखें; और सब कुछ भेजने की जगह अप्रासंगिक पाठ काटें। अपने डेटा पर needle-in-a-haystack शैली की जाँच करें: ज्ञात तथ्य अलग-अलग स्थितियों पर छिपाएँ और देखें कि मॉडल कब चूकता है।

लगाए गए तथ्य से परखें

लंबे इनपुट की शुरुआत, बीच और अंत में ज्ञात वाक्य छिपाएँ और जाँचें कि मॉडल हर बार उसे ढूँढता है।

त्वरित जाँच: लंबे prompt में सवाल आम तौर पर कहाँ रखना सबसे अच्छा है?

• दस्तावेज़ों के बाद, अंत के पास
• दस्तावेज़ों के बीच छिपाकर
• कभी नहीं
• System prompt से पहले