Deploying, Observability और Guardrails

टिकाऊ, देखने-योग्य, सीमित

Production में graphs को टिकाऊ checkpointer (Postgres या समान) के साथ, ऐसी API के पीछे चलाएँ जो users को प्रमाणित करे और session से thread_id निकाले; लंबे runs के लिए timeouts और रद्द करने के साथ background workers या managed agent server उपयोग करें। हर run के लिए tracing जोड़ें (इनपुट, node आउटपुट, tool calls, tokens, latency, errors), संवेदनशील डेटा redact करके, साथ में विफलता दर, loop-सीमा हिट, प्रति run लागत और अनुमोदन backlog पर metrics व alerts। Guardrails: न्यूनतम-विशेषाधिकार tools, argument validation, allow-list कार्रवाइयाँ, जोखिम भरे चरणों पर मानव अनुमोदन, output filters, retrieved पाठ और tool आउटपुट को अविश्वसनीय डेटा मानना (prompt injection), rate limits, और आसान kill switch। Graph और prompts को version करें, और बदलाव क्रमिक रूप से जारी करें।

Production checklist

लॉन्च से पहले समीक्षा-सूची के रूप में उपयोग करें।

[ ] durable checkpointer; thread_id derived from authenticated session
[ ] recursion limit + attempt counters + time and cost budget per run
[ ] tools: least privilege, validated args, allow-listed actions, idempotent writes
[ ] human approval for irreversible / costly actions (interrupt) + audit record
[ ] retrieved text and tool output treated as untrusted data
[ ] tracing with redaction; alerts on failures, loop caps, cost, stuck approvals
[ ] evaluation suite (outcome + trajectory + safety) runs in CI
[ ] versioned graph/prompts, staged rollout, kill switch

त्वरित जाँच: Production में thread_id कहाँ से आना चाहिए?

• मॉडल का नाम
• Client द्वारा स्वतंत्र रूप से चुना हुआ
• हमेशा वही स्थिरांक
• प्रमाणित user और session से निकला हुआ