Prompt Chaining और Routing

Chain, फिर gate

Prompt chaining काम को ऐसे steps में बाँटती है जहाँ हर output अगले का input बनता है, जैसे पहले draft, फिर अनुवाद। Steps के बीच gate लगाएँ, यानी कोड में सरल जाँच, ताकि ख़राब बीच का नतीजा जल्दी रुक जाए। Routing पहले input को वर्गीकृत करती है और उसे सबसे उपयुक्त prompt या model तक भेजती है।

Gate वाली chain

llm किसी भी ऐसे function का प्रतीक है जो model को बुलाता है। Gate खाली outline पर दूसरी call बर्बाद होने से पहले chain रोक देता है।

def write_article(topic: str) -> str:
    outline = llm(f"Write a 5-point outline about {topic}")
    if outline.count("\n") < 4:          # gate: outline too short
        raise ValueError("Outline failed validation")
    return llm(f"Write an article from this outline:\n{outline}")

सस्ता काम सस्ते model को

सरल सवाल छोटे, तेज़ model को और कठिन सवाल ज़्यादा सक्षम model को जा सकते हैं। जो router बार-बार ग़लत हो, वह बचाने से ज़्यादा ख़र्च कराता है, इसलिए उसकी सटीकता मापें।

त्वरित जाँच: Prompt chain में "gate" क्या है?

• एक paid API tier
• Steps के बीच कोड से की गई जाँच
• Firewall नियम
• अंतिम उत्तर