In Breve
- Cosa ha richiesto il procuratore di San Francisco?
- Il procuratore ha chiesto la rimozione di tredici app di face-swapping che generano immagini intime non consensuali.
- Quali aziende sono coinvolte nella richiesta?
- Le aziende coinvolte sono Apple e Google.
- Quali sono le conseguenze per le vittime di queste app?
- Le vittime possono subire danni alla reputazione e ripercussioni sulla salute mentale.
Il procuratore della città di San Francisco, David Chiu, ha intrapreso un’azione decisa contro le applicazioni di face-swapping che utilizzano l’intelligenza artificiale per generare immagini intime non consensuali. In una recente comunicazione, Chiu ha inviato diffide ad Apple e Google per richiedere la rimozione immediata di tredici app, otto delle quali disponibili sull’App Store e cinque sul Play Store.
Chiu ha sottolineato che le due aziende non solo dovrebbero rimuovere le app incriminate, ma anche cessare qualsiasi collaborazione commerciale con gli sviluppatori di tali applicazioni, che hanno generato profitti significativi attraverso acquisti in-app. Secondo il procuratore, Apple e Google avrebbero incassato milioni di dollari nonostante le loro politiche per sviluppatori vietino esplicitamente contenuti pornografici, abusivi o molesti.
La legge della California è chiara: è vietato fornire supporto a servizi che producono materiale pornografico deepfake. L’ufficio del procuratore ha già avviato azioni legali in passato contro sedici siti web dedicati a pratiche simili, evidenziando un impegno costante nella lotta contro la diffusione di contenuti dannosi.
Un portavoce di Google, Dan Jackson, ha dichiarato che l’azienda ha già eliminato centinaia di app con funzioni di “nudificazione”, comprese le cinque segnalate da Chiu, e ha limitato la ricerca di termini come “nudify” sul Play Store. Tuttavia, Apple non ha fornito commenti ufficiali sulla questione.
Chiu ha definito la situazione “assolutamente scioccante”, evidenziando le gravi conseguenze che tali pratiche possono avere sulle vittime, che vanno dalla reputazione danneggiata a ripercussioni sulla salute mentale. Il procuratore ha espresso fiducia nel fatto che le aziende rimuoveranno spontaneamente le app incriminate e rafforzeranno i controlli interni, pur non escludendo ulteriori azioni legali se necessario.