In Breve
- Cosa sono i Guardian Agents di Microsoft?
- I Guardian Agents sono strumenti progettati per monitorare e gestire i rischi associati agli agenti AI autonomi.
- Qual è l'obiettivo dei Guardian Agents?
- L'obiettivo è separare la fornitura di intelligenza dall'autorità di controllo, garantendo una sorveglianza continua.
- Quali sono le funzionalità principali dei Guardian Agents?
- Le funzionalità includono Dynamic Permissions, Dynamic Agent Risk e Dynamic Conditional Access per gestire i rischi.
Microsoft ha recentemente svelato i Guardian Agents, una serie di strumenti innovativi progettati per monitorare, limitare e gestire i rischi associati agli agenti di intelligenza artificiale (AI) autonomi. L’azienda ha evidenziato che, sebbene i modelli agentici non siano intrinsecamente maligni, possono comunque commettere errori, essere manipolati o compromessi. Pertanto, Microsoft sottolinea l’importanza di non lasciare questi agenti come unica autorità di sicurezza.
La proposta di Guardian Agents si inserisce in un contesto più ampio di iniziative già avviate da Microsoft, come il Project Perception e la cyber stack, che coordinano agenti specializzati per analizzare i dati di sicurezza, cercare vulnerabilità e gestire rimedi. Il Project Perception utilizza tre tipologie di agenti (red, blue e green) per testare, investigare e correggere minacce; ora, questa architettura viene estesa per proteggere gli “agentic insiders” attraverso i Guardian Agents, i quali condividono segnali, contesto e un registro unificato con Microsoft Agent 365 per fornire una visione coerente di agenti e rischi.
I controlli proposti dai Guardian Agents si basano sul principio di circondare intelligenze non deterministiche con controlli deterministici, evidenze indipendenti e confini di contenimento. Questi controlli operano su sette aspetti fondamentali: identità, permessi, dati, punti di accesso, rete, cloud e runtime. Le responsabilità perseguite includono la conoscenza dell’esistenza, della proprietà e del comportamento degli agenti; la capacità di contenere l’accesso e le azioni prima che avvengano; la protezione di dati, strumenti, runtime e risorse utilizzate dagli agenti; e l’adattamento continuo delle protezioni in base a comportamento, contesto e rischio.
Tra le funzionalità innovative annunciate vi è la scoperta estesa di 35 nuovi tipi di agenti locali, tra cui Claude Code, OpenAI Codex e GitHub Copilot. Inoltre, Microsoft Entra Agent ID sarà ampliato con nuovi tipi di identità per pattern di agenti locali e agenti precedentemente sconosciuti, rilevati tramite sensori di sicurezza. Per garantire un controllo operativo efficace, sono previste Dynamic Permissions, che limitano l’accesso di un agente alle risorse necessarie per un compito specifico; Dynamic Agent Risk, che valuta potenziali minacce; e Dynamic Conditional Access, capace di reagire a rischi crescenti restringendo permessi, bloccando operazioni o richiedendo l’intervento umano. In situazioni estreme, un agente può essere fermato e isolato per prevenire danni.
Microsoft descrive i Guardian Agents come strumenti essenziali per consentire ai team di sicurezza di operare in modo continuo e alla velocità delle macchine. Questi strumenti integrano sensori, contesto e attuatori su tutta la pila di sicurezza, permettendo di comprendere i rischi emergenti associati agli agenti e di adattare le contromisure in modo tempestivo ed efficace.