In un caso esemplificativo della crescente diffusione di pornografia generata da intelligenze artificiali, si è verificato un episodio controverso sulla piattaforma di social media X (precedentemente conosciuta come Twitter).
Immagini esplicite create artificialmente e raffiguranti la celebre cantante Taylor Swift sono circolate massicciamente negli ultimi giorni, sollevando questioni sull'efficacia dei controlli contro la diffusione di tale contenuto. Uno dei casi più eclatanti su X ha attirato oltre 45 milioni di visualizzazioni, con 24.000 repost e centinaia di migliaia di mi piace e segnalibri, prima che l'utente verificato che aveva condiviso le immagini venisse sospeso per violazione delle politiche della piattaforma. Il post è rimasto attivo sul social di Elon Musk per circa 17 ore prima della sua rimozione.
Con l'aumentare delle discussioni intorno al post virale, le immagini hanno iniziato a diffondersi, venendo ripostate su altri account. Molte di queste rimangono ancora online, e una marea di nuove falsificazioni grafiche è apparsa nel frattempo. In alcune regioni, l'hashtag "Taylor Swift AI" è diventato un argomento di tendenza, promuovendo ulteriormente le immagini a un pubblico più ampio. Un rapporto di 404 Media ha rivelato che le immagini potrebbero avere origine in un gruppo su Telegram, dove gli utenti condividono immagini esplicite generate da IA, spesso create con Microsoft Designer. Gli utenti del gruppo avrebbero scherzato su come le immagini di Swift siano diventate virali su X.
I fan di Taylor Swift hanno inondato la piattaforma di segnalazioni delle falsificazioni esplicite. Le politiche di X riguardo ai media sintetici e manipolati e alla nudità non consensuale vietano esplicitamente questo tipo di contenuto sulla piattaforma, ma i fan di Swift hanno criticato X per aver permesso che molti dei post rimanessero online per così tanto tempo. In risposta, hanno inondato gli hashtag usati per circolare le immagini con messaggi che promuovono invece clip reali di Swift in esibizione, al fine di nascondere le falsificazioni esplicite.
L'incidente mette in luce la sfida reale di fermare la pornografia deepfake e le immagini IA di persone reali. Alcuni generatori di immagini hanno restrizioni che impediscono la produzione di immagini pornografiche e fotorealistiche di celebrità, specialmente su X, che permette contenuti molto più espliciti rispetto ad altri social. L'azienda è attualmente sotto indagine da parte dell'UE per affermazioni secondo cui verrebbe utilizzata per "diffondere contenuti illegali e disinformazione" ed è oggetto di domande riguardo ai suoi protocolli di crisi dopo che è stata rivelata la diffusione di disinformazione sulla guerra tra Israele e Hamas tramite la piattaforma.
