Il Pulsante ‘Approvo’: Rischi e Responsabilità nell’Autonomia degli Agenti AI

Negli ultimi anni, l’uso di sistemi automatizzati per la gestione delle reti è diventato sempre più comune. Questi sistemi, capaci di risolvere problemi senza la necessità di intervento umano immediato, pongono però interrogativi cruciali sulla governance e sull’identità degli agenti AI. Markus Nispel, CTO EMEA e Head of AI Engineering di Extreme Networks, mette in guardia sui rischi legati all’approvazione automatica delle azioni da parte di questi agenti.

Il Rito dell’Approvazione

Le operazioni di remediation automatica possono avvenire senza alcuna notifica, lasciando la verifica delle azioni a un operatore umano solo in un secondo momento. Questo approccio, descritto come ‘Human-on-the-Loop’, presenta il rischio che il semplice clic sul pulsante ‘Approvo’ diventi un rito privo di reale valutazione critica. Quando un’automazione causa un malfunzionamento, attribuire responsabilità diventa complesso, poiché i log delle azioni non sempre chiariscono il ‘perché’ delle decisioni prese.

Autonomia e Governance: Un Equilibrio Delicato

Secondo ricerche recenti, il 57% dei responsabili IT prevede di rimuovere gli esseri umani dal processo decisionale entro un anno. Inoltre, il 79% dei professionisti del settore considera gli agenti AI come ‘utenti’ che necessitano di una gestione delle identità e controlli di governance. Nispel sottolinea che senza vincoli adeguati, l’autonomia degli agenti può crescere in modo incontrollato, portando a livelli di autonomia non esplicitamente approvati.

Identità degli Agenti AI: Un Necessario Riconoscimento

È fondamentale trattare gli agenti AI come entità dotate di identità. Questi sistemi devono avere credenziali, politiche operative, limiti chiari e tracciabilità delle azioni, simili a quelle richieste per gli operatori umani. Le infrastrutture di gestione degli accessi, spesso progettate per le persone, possono generare rischi significativi se applicate in modo informale agli agenti, creando accessi ‘ombra’ e vulnerabilità non quantificate.

Misure di Mitigazione dei Rischi

Per mitigare i rischi associati all’autonomia degli agenti, è necessario configurare ogni agente come un’entità principale con permessi limitati, accesso temporizzato e percorsi di revoca chiari. È essenziale mantenere un registro completo non solo delle azioni compiute, ma anche delle autorizzazioni e delle motivazioni alla base delle decisioni.

Un’Autonomia Graduale e Responsabile

La fiducia nell’autonomia degli agenti dovrebbe essere progressiva. Inizialmente, gli agenti possono operare in modalità suggerimento, guadagnando capacità operative in base a prove e limiti definiti. Con l’aumento della complessità delle decisioni autonome, la supervisione umana deve essere supportata da infrastrutture che integrino identità, enforcement delle policy e responsabilità, garantendo così trasparenza e allineamento con gli obiettivi organizzativi.

La Complessità dei Sistemi Multi-Agente

Nei sistemi multi-agente, la complessità aumenta ulteriormente. Una catena di agenti che si scambiano informazioni rende difficile ricostruire gli eventi, poiché è necessario comprendere cosa ciascun agente conosceva oltre a ciò che ha fatto. Pertanto, è cruciale implementare permessi rigorosi e controlli di identità, elementi che possono sembrare noiosi ma sono fondamentali per garantire la resilienza dell’organizzazione e ridurre i rischi latenti.