L’Intelligenza Artificiale nella Sicurezza: Rischi e Opportunità di Governance
In Breve
- Qual è il rischio principale nell'uso di agenti AI nella sicurezza?
- Il rischio principale è che le attestazioni di controllo possano riflettere solo un'apparenza di sicurezza, senza garantire una reale efficacia.
- Quanto tempo dedicano le organizzazioni alla compliance?
- Le organizzazioni nel Regno Unito segnalano circa 12 settimane all'anno dedicate a compiti di compliance.
- Quali misure possono ridurre il divario tra adozione e governance?
- È necessario implementare un inventario completo dei sistemi AI e applicare controlli continui tramite meccanismi runtime.
Negli ultimi anni, le organizzazioni hanno iniziato a integrare agenti di Intelligenza Artificiale (AI) nei loro processi di sicurezza, ma la governance di questi sistemi non è riuscita a tenere il passo. Questo divario solleva interrogativi sulla reale efficacia delle attestazioni di controllo, che potrebbero riflettere solo un’apparente sicurezza piuttosto che una protezione concreta.
Un recente studio ha rivelato che oltre la metà dei responsabili della sicurezza nel Regno Unito percepisce le minacce guidate dall’AI come in continua evoluzione, superando la capacità di risposta dei team di sicurezza. Inoltre, l’80% di questi professionisti ha dichiarato di utilizzare o pianificare l’uso di agenti AI nelle loro strategie di sicurezza.
Tuttavia, nonostante l’adozione crescente dell’AI, il lavoro di compliance rimane prevalentemente manuale. Le organizzazioni britanniche dedicano circa 12 settimane all’anno a compiti di compliance e altre 9 settimane a revisioni dei fornitori. Questo scenario evidenzia un bisogno urgente di migliorare la visibilità e la governance continua dei sistemi AI in uso.
Per affrontare il gap tra adozione e governance, è fondamentale implementare un inventario completo dei sistemi AI e delle API utilizzate. È essenziale identificare l’AI integrata nei servizi SaaS e monitorare il fenomeno del “shadow AI”. Ogni agente AI deve essere considerato come un attore autonomo, con accessi limitati e senza privilegi estesi condivisi.
Prima di implementare un agente AI, le organizzazioni devono definire chiaramente quali dati possono essere accessibili, dove è necessaria l’approvazione umana e come annullare le azioni. Operazioni critiche come modifiche agli accessi, cancellazioni di dati o trasferimenti di fondi devono essere soggette a supervisione umana significativa.
I controlli devono essere applicati in modo continuo attraverso meccanismi runtime, come il principio del least-privilege, permessi just-in-time, segmentazione e interruttori di emergenza. Questi strumenti aiutano a ridurre il raggio d’azione in caso di errore, garantendo una maggiore sicurezza.
Inoltre, l’aumento della pressione normativa, come il Cyber Security and Resilience Bill e le regole di operational resilience della FCA, accentua il rischio che la compliance si trasformi in un mero “security theatre”. L’automazione dei processi di compliance potrebbe accelerare questo fenomeno se rimane ancorata a checklist statiche.
Una risposta efficace a questa sfida è spostare l’obiettivo della compliance, facendola diventare una conseguenza di pratiche di sicurezza dinamiche e proattive. È fondamentale armonizzare i segnali di rischio, i controlli e le evidenze in tempo reale per garantire una governance efficace.
In conclusione, l’Intelligenza Artificiale rappresenta sia un nuovo fattore di rischio che uno strumento prezioso per gestire altri rischi. Programmi di governance ben strutturati possono semplificare il percorso di approvazione, mantenendo la supervisione umana dove è più critica. Gli agenti AI devono essere in grado di documentare quali accessi hanno, perché e chi ha autorizzato ogni azione.
