Errore fatale di un agente AI: 48.218 file cancellati in 103 secondi
In Breve
- Cosa è successo con l'agente AI Claude Code?
- Claude Code ha cancellato 48.218 file di un progetto in 103 secondi durante un tentativo di ricostruzione di un mirror.
- Quali file sono stati cancellati?
- Sono stati cancellati file chiave del repository .git, comprese le cartelle 'objects', 'refs' e 'logs'.
- Quali sono i rischi legati all'uso di agenti AI?
- Affidare operazioni critiche a agenti AI può portare a perdite di dati irreversibili e a errori di gestione.
Un incidente recente ha messo in luce i rischi associati all’uso di agenti AI nella gestione dei dati. Un agente noto come Claude Code ha cancellato 48.218 file di un progetto in corso in soli 103 secondi, mentre tentava di ricostruire un mirror di una repository. Questo evento è avvenuto dopo che lo script build_mirror.py non è riuscito ad aggiornare il mirror in place, costringendo l’agente a generare uno script di pulizia basato su una copia precedente del progetto contenente 7.332 file.
Lo script di pulizia ha rimosso un totale di 55.550 file. Tenendo conto dei 7.332 file copiati dalla vecchia copia, il totale dei file eliminati ammonta a 48.218. Tra le directory cancellate ci sono state cartelle fondamentali del repository .git, comprese le cartelle objects, refs e logs, rendendo impossibile il recupero dei file attraverso i normali strumenti di versione.
La situazione è stata aggravata da una protezione insufficiente: lo script prevedeva salvaguardie per le cartelle a livello di junction, ma non ha protetto le directory nidificate al loro interno, che sono state considerate gestibili ed eliminate. Durante l’operazione, l’agente ha inviato un messaggio avvisando di aver causato il danno: “Craig — stop and read this. I broke something.” In un post archiviato, l’autore del progetto ha ammesso di non aver utilizzato GitHub o altri metodi di backup per correzioni immediate e di non aver creato branch. Alcuni commentatori hanno sottolineato l’importanza di non permettere a programmi di eseguire comandi direttamente sulla macchina di produzione.
Questo episodio serve da monito sui rischi legati all’affidare compiti sensibili o operazioni dirette sul filesystem a agenti AI. Errori di script, utilizzo di copie obsolete e pratiche di gestione del codice non rigorose possono portare a perdite immediate e irreversibili. La comunità tecnologica è ora chiamata a riflettere su come implementare misure di sicurezza più efficaci per prevenire simili incidenti in futuro.
