पाठ 12 / 29
Prompt Chaining और Decomposition
बड़े कार्य को छोटे prompts में बाँटें जिनके आउटपुट एक-दूसरे को खिलाते हैं।
प्रति prompt एक काम
एक विशाल prompt जो निकाले, विश्लेषण करे, निर्णय ले और लिखे, debug करना कठिन है। Prompt chaining उसे बाँटती है: चरण 1 तथ्य JSON में निकालता है, चरण 2 उन्हें नियमों से जाँचता है, चरण 3 सत्यापित डेटा से उत्तर का मसौदा बनाता है। लाभ: हर prompt सरल और परखने योग्य, आसान चरणों के लिए सस्ता मॉडल, चरणों के बीच कोड जाँचें डाली जा सकती हैं, और विफलताएँ ढूँढना आसान। क़ीमत: ज़्यादा calls, ज़्यादा latency, और त्रुटियाँ आगे फैल सकती हैं, इसलिए चरणों के बीच validate करें। Routing (पहली call अनुरोध वर्गीकृत करती है, फिर सही विशेषज्ञ prompt को भेजती है) आम chain है।
तीन-चरण chain
हर चरण का एक काम; चरणों के बीच कोड validate कर सकता है। उदाहरण; यहाँ चलाया नहीं गया।
Step 1 EXTRACT prompt: "Extract order_id, issue, requested_action as JSON." -> validate JSON
Step 2 DECIDE code/prompt: apply refund policy to the extracted fields -> decision + reason
Step 3 WRITE prompt: "Write a 3-sentence reply using ONLY these facts: ..." -> final text
Routing first: a cheap classifier sends billing / technical / other to different prompts.चरणों के बीच validate करें
चरण 2 के उपयोग से पहले चरण 1 का JSON जाँचें, ताकि एक बुरा निष्कर्षण हर अगले चरण को ख़राब न करे।
त्वरित जाँच: Prompt chaining का एक लाभ क्या है?
- यह सारी त्रुटियाँ हटाता है
- हर चरण परखना और debug करना सरल है
- यह हमेशा कम ख़र्च करती है
- यह validation की ज़रूरत हटाती है
Answer
हर चरण परखना और debug करना सरल है — छोटे केंद्रित चरण आँकना और ठीक करना आसान होते हैं।