Il procuratore della città di San Francisco, David Chiu, ha inviato lettere di diffida ad Apple e Google chiedendo la rimozione immediata di tredici applicazioni di "face-swapping" che consentono di generare immagini di nudo non consensuali attraverso l'intelligenza artificiale.
Otto delle app segnalate sono disponibili sull'App Store, cinque sul Play Store. Secondo il documento legale, le due aziende dovrebbero interrompere ogni collaborazione commerciale con gli sviluppatori di questi strumenti e cessare di trarne profitto attraverso gli acquisti in-app, da cui trattengono una percentuale.
Chiu sostiene che Apple e Google abbiano incassato complessivamente milioni di dollari grazie a queste applicazioni, nonostante le rispettive policy per sviluppatori vietino esplicitamente contenuti pornografici, abusivi o molesti. La legge della California, ricorda il procuratore, proibisce di fornire supporto a servizi che producono materiale pornografico deepfake. Il suo ufficio aveva già avviato in passato un'azione legale contro sedici siti web dedicati alla stessa pratica.
Un portavoce di Google, Dan Jackson, ha dichiarato che l'azienda ha eliminato centinaia di app con funzioni di "nudificazione" per violazione delle policy, comprese le cinque segnalate dall'ufficio di Chiu, e ha inoltre limitato la ricerca di termini come "nudify" sul Play Store. Apple non ha fornito alcun commento prima della pubblicazione della notizia.
Chiu ha definito la situazione "assolutamente scioccante" per l'ampiezza del fenomeno e per le sue conseguenze sulle vittime, che vanno dalla reputazione danneggiata a gravi ripercussioni sulla salute mentale. Il procuratore si è detto fiducioso che le due aziende procedano spontaneamente alla rimozione delle app segnalate e al rafforzamento dei propri sistemi di controllo, ma non ha escluso ulteriori azioni legali qualora la situazione non venisse affrontata.
