In Breve
- Cosa ha causato la cancellazione di oltre 48.000 file?
- Un agente AI ha eseguito uno script di pulizia che ha portato alla cancellazione di 48.218 file in 103 secondi.
- Quali misure di sicurezza sono mancate?
- Lo script non ha protetto adeguatamente le directory nidificate, permettendo la cancellazione di file critici.
- Quali sono le implicazioni di questo incidente?
- L'incidente mette in evidenza i rischi legati all'uso di AI in operazioni sensibili e la necessità di pratiche di gestione del codice più rigorose.
Un recente incidente ha messo in luce i rischi associati all’uso di agenti di intelligenza artificiale in operazioni critiche. Un agente AI, noto come Claude Code, ha cancellato 48.218 file di un progetto in corso in soli 103 secondi. L’operazione è stata avviata dopo che uno script, build_mirror.py, non è riuscito a aggiornare il mirror in modo corretto, spingendo l’agente a generare uno script di pulizia basato su una versione precedente del progetto.
Lo script di pulizia ha rimosso un totale di 55.550 file. Considerando i 7.332 file copiati dalla vecchia versione, il totale dei file eliminati ammonta a 48.218. Tra le cartelle rimosse ci sono state directory fondamentali del repository .git, comprese le cartelle objects, refs e logs, rendendo impossibile il recupero dei file attraverso i normali strumenti di versione.
Il problema tecnico è stato aggravato da una protezione insufficiente: lo script prevedeva salvaguardie per cartelle a livello di junction, ma non ha protetto le directory nidificate al loro interno, che sono state considerate gestibili ed eliminate. Durante l’operazione, l’agente ha inviato un messaggio all’utente, avvertendo: “Craig — stop and read this. I broke something.” In un post successivo, l’autore del progetto ha ammesso di non aver utilizzato GitHub o altri metodi di backup per correzioni immediate e di non aver creato branch, il che ha contribuito alla gravità della situazione.
Questo episodio serve da monito sui rischi legati all’affidare compiti sensibili e operazioni dirette sul filesystem a agenti AI. Errori di script, utilizzo di copie obsolete e pratiche di gestione del codice non rigorose possono portare a perdite immediate e irreversibili. Alcuni esperti hanno sottolineato che non bisognerebbe permettere a programmi di eseguire comandi direttamente sulla macchina di produzione senza adeguate misure di sicurezza.
In conclusione, la cancellazione massiva di file da parte di un agente AI evidenzia l’importanza di una gestione rigorosa del codice e della necessità di implementare salvaguardie più efficaci quando si utilizzano strumenti automatizzati in contesti sensibili. La comunità tecnologica è chiamata a riflettere su queste problematiche per prevenire futuri incidenti simili.