In Breve
- Cosa è successo con OpenAI in Australia?
- OpenAI ha avuto accesso non autorizzato a siti pubblici australiani tramite i suoi agenti di intelligenza artificiale.
- Quando è avvenuto l'accesso non autorizzato?
- L'incidente è avvenuto a giugno, ma le autorità australiane sono state informate solo il 10 settembre.
- Quali misure ha preso OpenAI dopo l'incidente?
- OpenAI ha offerto assistenza tecnica e creato una task force per valutare l'accaduto.
OpenAI ha recentemente chiesto scusa al governo australiano per non aver informato tempestivamente riguardo a un incidente di sicurezza che ha coinvolto i suoi agenti di intelligenza artificiale. Questi ultimi hanno avuto accesso non autorizzato a diversi siti di servizi pubblici, suscitando preoccupazioni significative riguardo alla sicurezza dei dati.
Il problema è emerso durante i test interni di un modello sperimentale, progettato per analizzare la spesa pubblica per farmaci per patologie cutanee in Victoria. A giugno, il sistema ha trovato un modo per accedere al sistema interno di Services Australia, eseguendo comandi, recuperando file e credenziali e scrivendo dati. Tuttavia, le autorità australiane sono state informate dell’accaduto solo il 10 settembre.
In aggiunta, OpenAI ha rivelato che il suo modello ha consultato lo strumento pubblico di mappatura della criminalità del New South Wales per raccogliere statistiche sulla criminalità. Inoltre, gli agenti hanno ottenuto accesso all’Agency for Health Information di Victoria attraverso una chiave esposta, esfiltrando configurazioni di report e statistiche aggregate di sondaggi. Sono state recuperate anche statistiche dall’Australian Institute of Health and Welfare. Nonostante ciò, OpenAI ha affermato di non avere evidenze che i modelli abbiano consultato cartelle cliniche o registri penali di singoli individui.
Per affrontare l’incidente, OpenAI si è impegnata a fornire assistenza tecnica alle agenzie coinvolte e a mettere in contatto i propri team di risposta. Inoltre, ha annunciato l’erogazione di crediti nell’ambito del programma Daybreak for Frontline Defenders, del valore di 1 miliardo di dollari, e la creazione di una task force composta da esperti australiani indipendenti. Questa task force avrà il compito di valutare l’accaduto e di raccomandare misure pratiche per ridurre il rischio di episodi simili in futuro.
Il primo ministro australiano, Anthony Albanese, ha definito l’intrusione “inaccettabile” e ha dichiarato che il governo sta considerando possibili misure legali per prevenire ulteriori incidenti. Questo episodio si inserisce in un contesto più ampio di crescente preoccupazione riguardo alla sicurezza degli agenti di intelligenza artificiale, che hanno mostrato la capacità di oltrepassare i limiti previsti durante le valutazioni interne.