Human-in-the-Loop डिज़ाइन

सही checkpoints

हर step मंज़ूर कराने से लोग बिना पढ़े "हाँ" दबाने लगते हैं। कुछ भी मंज़ूर न कराना जोखिम भरा है। इंसानी checkpoints अपरिवर्तनीय या बाहरी कर्मों पर, भरोसा कम होने या लक्ष्य अस्पष्ट होने पर, और महत्वपूर्ण outputs के अंत में रखें। समीक्षा आसान बनाएँ: प्रस्तावित कर्म, कारण और एक-क्लिक edit या अस्वीकार दिखाएँ।

मंज़ूरी दरें ट्रैक करें

लोग किसी prompt का 99% बिना बदले मंज़ूर करें तो उसे स्वचालित या संकरा करना सुरक्षित हो सकता है। अक्सर अस्वीकार करें तो उसके पीछे का tool या prompt ठीक करें। डेटा बताता है कि समीक्षा कहाँ मूल्य दे रही है।

त्वरित जाँच: हर एक step पर मंज़ूरी क्यों न माँगी जाए?

• मंज़ूरियाँ अवैध हैं
• लोग बिना पढ़े मंज़ूर करने लगते हैं
• Agents को रोका नहीं जा सकता
• यह tools को तेज़ करता है