La controversa piattaforma di social media X blocca temporaneamente i termini relativi a Taylor Swift in seguito alla diffusa circolazione di deepfake espliciti del cantante, in mezzo a un maggiore controllo delle politiche di moderazione dei contenuti di X.
In seguito alla diffusione virale di immagini esplicite generate dall'intelligenza artificiale con la sensazione pop Taylor Swift, la piattaforma di social media X, precedentemente nota come Twitter, ha temporaneamente disabilitato le ricerche correlate al cantante sulla sua piattaforma.
Gli utenti che tentavano di cercare Swift si sono confrontati con un messaggio di errore che consigliava di provare a ricaricare. Questa azione è stata intrapresa, secondo una dichiarazione rilasciata da X, “con molta cautela poiché diamo priorità alla sicurezza su questo tema”.
Il contenuto esplicito, recentemente onnipresente in modo allarmante online, è rimasto attivo su X per quasi 19 ore prima che un'azione rapida portasse alla sospensione dell'account responsabile dei post. Tuttavia, questa durata significativa, unita alla natura delle immagini, ha scatenato un'indignazione diffusa non solo da parte dei fedeli sostenitori di Swift ma anche da parte dei netizen preoccupati che hanno condannato il carattere "violentemente misogino" delle creazioni dell'IA.
X, che ha risposto quasi un giorno dopo, ha annunciato i suoi sforzi proattivi nel “rimuovere attivamente tutte le immagini identificate” e nell’imporre sanzioni agli account implicati nella diffusione delle immagini offensive.
Da quando l’imprenditore miliardario Elon Musk ha acquisito X, ribattezzando l’ex Twitter, la piattaforma ha dovuto affrontare un controllo amplificato relativo alle sue politiche riviste di moderazione dei contenuti. Questi cambiamenti hanno già suscitato disagio tra molti inserzionisti, portando a una ritirata dalle preoccupazioni per i loro annunci pubblicati insieme a post controversi.
Rimodellando le proprie linee guida, X, di concerto con l'amministratore delegato Linda Yaccarino, ha propagato una politica di "libertà di parola, non di portata". Questa iniziativa limita la diffusione di alcuni post senza eliminarli del tutto.
Purtroppo, rappresentazioni esplicite e false di Swift sono arrivate su altre piattaforme, in particolare Facebook e Reddit. Le ricerche online di Swift su Instagram, di proprietà di Meta, non hanno prodotto risultati, offrendo invece un messaggio che intimava l'associazione di tali termini di ricerca con le attività di organizzazioni e individui pericolosi.
I portavoce di Meta hanno affermato la loro vigilanza, affermando: "Continuiamo a monitorare e, se identifichiamo ulteriori contenuti in violazione, li rimuoveremo e prenderemo le misure appropriate".
I deepfake, soprattutto quelli di natura esplicita, sono finiti nel mirino. Karine Jean-Pierre, addetta stampa della Casa Bianca, ha descritto l'incidente come “allarmante” e ha aggiunto che le società di social media devono assumersi le proprie responsabilità per frenare la proliferazione di tali contenuti sulle loro piattaforme. L’incidente evidenzia chiaramente la crescente minaccia rappresentata dalla tecnologia deepfake, sottolineando l’urgente necessità di controlli ed equilibri rigorosi nella sfera digitale.