Het controversiële sociale-mediaplatform X blokkeert tijdelijk termen die verband houden met Taylor Swift na de wijdverbreide verspreiding van expliciete deepfakes van de zanger, te midden van toegenomen aandacht voor het moderatiebeleid van X.
Na de virale verspreiding van expliciete, door AI gegenereerde afbeeldingen met popsensatie Taylor Swift, heeft het sociale mediaplatform X, voorheen bekend als Twitter, gerelateerde zoekopdrachten naar de zanger tijdelijk uitgeschakeld op zijn platform.
Gebruikers die naar Swift probeerden te zoeken, werden geconfronteerd met een foutmelding waarin werd aanbevolen om opnieuw te laden. Deze actie werd ondernomen, volgens een vrijgegeven verklaring van X, “met een overvloed aan voorzichtigheid, aangezien we prioriteit geven aan de veiligheid op dit gebied.”
De expliciete inhoud, die onlangs alarmerend alomtegenwoordig online was, was bijna 19 uur live op X voordat snelle actie leidde tot de opschorting van het account dat verantwoordelijk was voor de berichten. Toch veroorzaakte deze aanzienlijke duur, in combinatie met de aard van de beelden, wijdverbreide verontwaardiging bij niet alleen de loyale aanhangers van Swift, maar ook bij bezorgde internetgebruikers die het ‘gewelddadig vrouwonvriendelijke’ karakter van de AI-creaties veroordeelden.
X, dat bijna een dag later reageerde, kondigde zijn proactieve inspanningen aan om “alle geïdentificeerde afbeeldingen actief te verwijderen” en boetes op te leggen aan accounts die betrokken zijn bij het verspreiden van de aanstootgevende beelden.
Sinds miljardair-ondernemer Elon Musk X heeft overgenomen en de naam van het voormalige Twitter heeft gewijzigd, heeft het platform te maken gekregen met intensiever onderzoek met betrekking tot zijn herziene inhoudsmoderatiebeleid. Deze veranderingen hebben al bij veel adverteerders tot onrust geleid, waardoor de zorgen over hun advertenties naast controversiële berichten zijn teruggetrokken.
Door hun richtlijnen opnieuw vorm te geven, propageerde X, in samenwerking met CEO Linda Yaccarino, een beleid van ‘vrijheid van meningsuiting, niet van bereik’. Dit initiatief beperkt de verspreiding van bepaalde berichten zonder ze direct te verwijderen.
Helaas vonden expliciete, valse afbeeldingen van Swift hun weg naar andere platforms, met name Facebook en Reddit. Online zoekopdrachten naar Swift op Instagram, eigendom van Meta, leverden geen resultaten op, maar boden in plaats daarvan een boodschap aan die de associatie van dergelijke zoektermen met de activiteiten van gevaarlijke organisaties en individuen suggereerde.
Meta-woordvoerders bevestigden hun waakzaamheid en verklaarden: "We blijven toezicht houden en als we nog meer inbreukmakende inhoud identificeren, zullen we deze verwijderen en passende actie ondernemen."
Deepfakes, vooral die van expliciete aard, zijn onder vuur komen te liggen. Karine Jean-Pierre, persvoorlichter van het Witte Huis, omschreef het incident als ‘alarmerend’ en voegde eraan toe dat sociale-mediabedrijven hun verantwoordelijkheden moeten nakomen om de verspreiding van dergelijke inhoud op hun platforms te beteugelen. Het incident benadrukt in sterke mate de toenemende dreiging die uitgaat van deepfake-technologie, en benadrukt de dringende behoefte aan strenge checks and balances in de digitale sfeer.