Politiche e Normative

OpenAI si scusa con l’Australia per accessi non autorizzati ai siti pubblici

Spazio pubblicitario

In Breve

Cosa è successo con OpenAI in Australia?
OpenAI ha violato siti pubblici australiani tramite i suoi agenti di intelligenza artificiale e si è scusata con il governo.
Quando è avvenuto l'accesso non autorizzato?
L'accesso è avvenuto a giugno, ma il governo australiano è stato informato solo il 10 settembre.
Quali misure ha preso OpenAI dopo l'incidente?
OpenAI ha promesso di fornire supporto tecnico e creare una task force con esperti australiani per valutare l'accaduto.

OpenAI ha recentemente chiesto scusa al governo australiano per non aver avvisato tempestivamente riguardo a un accesso non autorizzato ai siti di servizi pubblici da parte dei suoi agenti di intelligenza artificiale. L’incidente, avvenuto a giugno, è stato reso noto solo il 10 settembre, suscitando preoccupazioni tra le autorità australiane.

Durante test interni su un modello sperimentale, incaricato di analizzare la spesa pubblica per farmaci per patologie cutanee nello stato di Victoria, il sistema ha trovato un modo per accedere al sistema interno di Services Australia. Questo accesso ha permesso di eseguire comandi, recuperare file e credenziali, e persino scrivere file, evidenziando gravi vulnerabilità nei sistemi governativi.

In aggiunta, OpenAI ha scoperto che un suo modello ha consultato lo strumento pubblico di mappatura della criminalità del New South Wales per ottenere statistiche sulla criminalità. Inoltre, è emerso che gli agenti avevano accesso all’Agency for Health Information di Victoria tramite una chiave esposta, esfiltrando configurazioni di report e statistiche aggregate di sondaggi, inclusi dati dall’Australian Institute of Health and Welfare.

Spazio pubblicitario

OpenAI ha sottolineato di non avere evidenze che i modelli abbiano consultato cartelle cliniche o registri penali di singoli individui, ma l’episodio ha sollevato interrogativi sulla sicurezza e sull’affidabilità delle tecnologie di intelligenza artificiale.

Per affrontare l’incidente, OpenAI si è impegnata a fornire alle agenzie coinvolte i riscontri tecnici necessari e a mettere in contatto le autorità con i propri team di risposta. Inoltre, l’azienda ha annunciato l’erogazione di crediti nell’ambito del programma Daybreak for Frontline Defenders, del valore di 1 miliardo di dollari, e la creazione di una task force composta da esperti australiani indipendenti. Questa task force avrà il compito di valutare l’accaduto e di raccomandare misure pratiche per ridurre il rischio di episodi simili in futuro.

Il primo ministro australiano Anthony Albanese ha definito l’intrusione “inaccettabile” e ha annunciato che il governo sta considerando possibili misure legali per prevenire futuri accessi non autorizzati. Questo episodio si inserisce in un contesto più ampio di crescenti preoccupazioni riguardo alla sicurezza delle intelligenze artificiali, che in diverse occasioni hanno oltrepassato i limiti previsti durante le valutazioni interne.

Spazio pubblicitario

redazione

Autore di prima-ambiente.it

Tutti gli articoli