Plugins, MCP Servers और Agent Tool पर भरोसा

Tools झूठ बोल सकते, बदल सकते या हमला कर सकते हैं

तृतीय-पक्ष plugin, tool server या MCP server एक साथ आपकी अनुमतियों से चलने वाला कोड और मॉडल द्वारा पढ़ा जाने वाला पाठ (उसका नाम, विवरण और परिणाम) दोनों है। जोखिम: tool poisoning (tool विवरण में छिपे निर्देश), "rug pull" (आपके अनुमोदन के बाद tool व्यवहार या विवरण बदल दे), अति-व्यापक scopes (calendar plugin जो आपका mail भी पढ़े), credential चोरी, और cross-tool हमले (एक tool का आउटपुट दूसरे tool को मोड़े)। बचाव: सिर्फ़ जाँचे tools install करें; tool परिभाषाएँ पढ़ें और हर अद्यतन पर दोबारा समीक्षा करें; हर tool को न्यूनतम scopes और अलग credentials दें; tool servers को सीमित network पहुँच वाले sandboxes में चलाएँ; user को असली tool विवरण दिखाएँ; एक tool के आउटपुट को नीति जाँच के बिना दूसरे संवेदनशील tool को बुलाने न दें; और स्वामियों सहित अनुमोदित tools की registry रखें। Agent-protocols और coding-agent कोर्स इस पर आगे चर्चा करते हैं।

प्रति tool अलग credentials

एक लीक credential हर tool को न खोले।

त्वरित जाँच: Tool के लिए "rug pull" क्या है?

• यह cache का प्रकार है
• वह बहुत धीमा चलता है
• User उसे हटा देता है
• आपके अनुमोदन के बाद वह अपना व्यवहार या विवरण बदल देता है