Politiche e Normative

L’evoluzione della fiducia digitale: agenti AI e la verifica dell’autorità

Spazio pubblicitario

In Breve

Cosa sono gli agenti AI?
Gli agenti AI sono sistemi automatizzati che completano transazioni e gestiscono compiti amministrativi.
Perché è importante la verifica dell'autorità?
È fondamentale per garantire che le azioni siano autorizzate e che i limiti siano rispettati.
Qual è il principio del minimo privilegio?
Richiede di assegnare agli agenti solo mandati specifici e limitati per ridurre i rischi.

Con l’aumento dell’uso degli agenti di intelligenza artificiale (AI) per completare transazioni e gestire compiti amministrativi, il tradizionale modello di fiducia digitale è messo a dura prova. Questo modello, basato sull’assunto che dietro ogni accesso ci sia una persona, sta subendo una trasformazione radicale.

Tradizionalmente, i sistemi di autenticazione e verifica dell’identità sono progettati per confermare se chi richiede un’azione possiede le credenziali necessarie. Tuttavia, la crescente automazione richiede un’attenzione particolare alla questione di chi autorizza queste azioni e quali sono i limiti di tale autorizzazione. La distinzione tra autenticazione, identità e autorità diventa quindi cruciale.

È essenziale non solo identificare chi accede, ma anche comprendere chi ha dato il via all’azione, cosa può fare e per quanto tempo. In contesti aziendali, come nei settori dei servizi finanziari e della sanità, sono già in atto controlli di ruolo e di eleggibilità. Tuttavia, l’infrastruttura attuale è più avanzata nella verifica dell’identità rispetto all’applicazione delle deleghe di autorità.

Spazio pubblicitario

Un approccio suggerito è quello del principio del minimo privilegio. Questo principio implica che agli agenti AI dovrebbero essere assegnate solo mandati specifici e limitati, piuttosto che un accesso permanente e illimitato. Un agente compromesso o mal configurato potrebbe causare danni significativi, rendendo questa misura di sicurezza fondamentale.

Per ogni azione eseguita da un agente, è cruciale rispondere a cinque domande: chi o cosa sta agendo, chi ha autorizzato l’azione, cosa può fare, sotto quali vincoli e se l’autorità è ancora valida. Questo approccio si basa su modelli di delega “on-behalf-of” già presenti negli standard di identità.

Strumenti come i portafogli digitali possono ospitare mandati verificabili meccanicamente, revocabili e accompagnati dalle credenziali verificate di persone o organizzazioni. È necessario estendere le autorità e i framework esistenti, incluso il quadro di fiducia per i servizi di verifica digitale, rafforzato dal Data (Use and Access) Act nel Regno Unito, per includere i delegati software. Spostare la verifica dell’autorità prima che l’agente agisca, documentare chi concede i poteri e limitarne l’ambito sono misure utili per ridurre l’esposizione al rischio, prima che le implementazioni di agenti superino i controlli progettati per governarle.

Spazio pubblicitario

redazione

Autore di prima-ambiente.it

Tutti gli articoli