In Breve
- Quali sono i rischi associati al pulsante 'Approvo' negli agenti AI?
- Il pulsante 'Approvo' può portare a decisioni non trasparenti e difficoltà nell'attribuire responsabilità in caso di malfunzionamenti.
- Come dovrebbero essere gestiti gli agenti AI?
- Gli agenti AI devono essere trattati come entità dotate di identità, con credenziali e audit trail simili a quelle degli operatori umani.
- Qual è l'importanza della supervisione umana negli agenti AI?
- La supervisione umana è fondamentale per garantire un'integrazione sicura e responsabile delle decisioni autonome degli agenti AI.
Negli ultimi anni, l’adozione di sistemi di remediation automatica ha rivoluzionato il modo in cui le organizzazioni gestiscono le problematiche di rete. Questi sistemi possono operare durante la notte senza alcuna notifica, lasciando la verifica delle azioni agli operatori umani solo in un secondo momento. Questa modalità di operare, nota come Human-on-the-Loop, presenta però delle insidie. In scenari meno controllati, agenti AI improvvisati possono eseguire correzioni senza fornire tracce dettagliate delle decisioni che hanno portato a tali interventi. Questo porta a una situazione in cui i log documentano il “cosa” è stato fatto, ma non sempre il “perché”, rendendo difficile attribuire responsabilità in caso di malfunzionamenti o outage.
Markus Nispel, CTO EMEA e Head of AI Engineering di Extreme Networks, avverte che senza adeguati vincoli, la delega progressiva a sistemi agentici può portare a livelli di autonomia non autorizzati. Ricerche indicano che il 57% dei responsabili IT prevede di ridurre la presenza umana nel processo decisionale entro un anno, mentre il 79% considera gli agenti AI come “utenti” che necessitano di una gestione delle identità e controlli di governance.
È fondamentale trattare gli agenti che operano su reti come entità dotate di identità. Questi richiedono credenziali, politiche, limiti operativi, spiegabilità e audit trail, simili a quelli richiesti per gli operatori umani. Molte infrastrutture di gestione degli accessi sono state progettate per le persone, e l’applicazione di soluzioni informali agli agenti può generare accessi non autorizzati e rischi non quantificabili. Per mitigare questi rischi, ogni agente dovrebbe essere configurato come un’entità principale con permessi limitati, accesso temporizzato e un registro completo delle azioni e delle motivazioni che hanno guidato le scelte.
La fiducia nell’autonomia degli agenti deve essere progressiva. Inizialmente, gli agenti dovrebbero operare in modalità suggerimento e guadagnare capacità operative basate su prove e limiti definiti, piuttosto che ricevere autonomie totali fin dall’inizio. Con l’aumento della complessità e del volume delle decisioni autonome, la supervisione umana deve essere affiancata da infrastrutture che integrino identità, enforcement delle policy, osservabilità e responsabilità, garantendo così trasparenza e allineamento con gli obiettivi organizzativi.
Nei sistemi multi-agente, la complessità aumenta ulteriormente. Una catena di agenti che si scambiano contesto rende più difficile ricostruire gli eventi rispetto a un singolo agente, poiché è necessario comprendere cosa ciascun agente conosceva oltre a cosa ha fatto. L’implementazione di permessi rigorosi, controlli d’identità e audit trail è cruciale per distinguere le implementazioni resilienti da quelle che espongono l’organizzazione a rischi latenti.