Sandboxing, Secrets और Audit Logging

मानें कि कुछ बिगड़ेगा

सीमित रखने के लिए डिज़ाइन करें। stdio servers containers या sandboxes में चलाएँ, सिर्फ़ उन folders, hosts और ports के साथ जिनकी ज़रूरत है, non-root user के रूप में, resource सीमाओं के साथ। Secrets secret manager या launch पर injected environment में रखें: tool विवरणों, prompts, tool परिणामों या logs में कभी नहीं, और उन्हें rotate करें। हर tools/call को timestamp, user, server, tool, arguments (redacted), परिणाम और अनुमोदन के साथ log करें, और असामान्य पैटर्न (calls की बौछार, नया tool, रात में लिखना) पर alert दें। विकास और production डेटा के लिए अलग परिवेश रखें। किसी server या tool को जल्दी बंद करने के लिए आपातकालीन स्विच की योजना बनाएँ।

Log से पहले redact करें

Arguments और results में व्यक्तिगत डेटा या secrets हो सकते हैं। उन्हें log store तक पहुँचने से पहले mask करें।

त्वरित जाँच: Server को sandbox में चलाने से क्या मिलता है?

• Server को तेज़ करता है
• Compromised या buggy server क्या छू सकता है यह सीमित करता है
• अनुमोदन की ज़रूरत हटाता है
• मॉडल को encrypt करता है