# Human-in-the-Loop डिज़ाइन — AI Agents और Tool Use

Source: https://www.geekswithgeeks.com/hi/ai-agents-mcp/eval-human-in-loop

> इंसानी समीक्षा वहाँ रखें जहाँ सबसे कम रुकावट में सबसे ज़्यादा सुरक्षा मिले।

## सही checkpoints

हर step मंज़ूर कराने से लोग बिना पढ़े "हाँ" दबाने लगते हैं। कुछ भी मंज़ूर न कराना जोखिम भरा है। इंसानी checkpoints **अपरिवर्तनीय या बाहरी कर्मों** पर, **भरोसा कम होने** या लक्ष्य अस्पष्ट होने पर, और महत्वपूर्ण outputs के **अंत** में रखें। समीक्षा आसान बनाएँ: प्रस्तावित कर्म, कारण और एक-क्लिक edit या अस्वीकार दिखाएँ।

## मंज़ूरी दरें ट्रैक करें

लोग किसी prompt का 99% बिना बदले मंज़ूर करें तो उसे स्वचालित या संकरा करना सुरक्षित हो सकता है। अक्सर अस्वीकार करें तो उसके पीछे का tool या prompt ठीक करें। डेटा बताता है कि समीक्षा कहाँ मूल्य दे रही है।

**Quiz:** हर एक step पर मंज़ूरी क्यों न माँगी जाए?

- [ ] मंज़ूरियाँ अवैध हैं
- [x] लोग बिना पढ़े मंज़ूर करने लगते हैं
- [ ] Agents को रोका नहीं जा सकता
- [ ] यह tools को तेज़ करता है

*Answer:* लोग बिना पढ़े मंज़ूर करने लगते हैं. मंज़ूरी की थकान सुरक्षा नियंत्रण को रबर स्टैम्प बना देती है।