Grote sociale mediaplatforms, waaronder Meta, TikTok, X, Reddit en Snapchat, zijn nu wettelijk verplicht om deepfake-pornografie en niet-consensuele intieme beelden binnen 48 uur na ontvangst van een geldige melding van slachtoffers te verwijderen.
De vereiste valt onder de nieuw ingevoerde Take It Down Act, een federale wet die is ontworpen om de snelle verspreiding van door AI gegenereerde seksuele deepfakes en wraakporno online tegen te gaan. De wetgeving is deze week officieel volledig gehandhaafd nadat platforms een nalevingsperiode van één jaar kregen om rapportage- en verwijderingssystemen te bouwen.
Volgens de wet kunnen online platforms die de gerapporteerde inhoud niet binnen de voorgeschreven termijn verwijderen, boetes krijgen tot $53.088 per overtreding. De regels gelden zowel voor authentieke intieme beelden die zonder toestemming zijn gedeeld als voor door AI gegenereerde seksueel expliciete deepfakes.
De Federal Trade Commission is verantwoordelijk voor de handhaving van de wet en heeft al voorafgaand aan de handhavingsdeadline nalevingsherinneringen gestuurd aan grote technologiebedrijven. Bedrijven die naar verluidt door toezichthouders zijn benaderd zijn onder andere Meta, TikTok, X, Amazon, Microsoft, Reddit, Snap en Alphabet.
De wet is een van de sterkste federale reacties tot nu toe op het groeiende misbruik van generatieve AI-tools die worden gebruikt om nep-expliciete afbeeldingen en video’s te maken. Deepfake-technologie is de afgelopen twee jaar steeds toegankelijker geworden, waardoor gebruikers realistische, niet-consensuele content kunnen genereren met minimale technische expertise.
Slachtoffers van deepfake-misbruik hebben al lange tijd moeite om platforms te dwingen schadelijke inhoud snel te verwijderen, vooral wanneer afbeeldingen tegelijk over meerdere diensten verspreid zijn. De nieuwe wet vereist dat bedrijven duidelijke rapportagetools bieden en snel handelen zodra geldige verwijderingsverzoeken zijn ingediend.
De wetgeving was deels geïnspireerd door verschillende spraakmakende deepfake-misbruikincidenten met beroemdheden, studenten en minderjarigen. In de afgelopen jaren zijn door AI gegenereerde expliciete beelden gericht op publieke figuren en particulieren wijdverspreid over sociale mediaplatforms, wat druk heeft gewekt voor strengere regelgeving.
Onderzoekers blijven waarschuwen dat deepfake-misbruik sneller evolueert dan de huidige detectiesystemen. Verschillende recente academische studies toonden aan dat veel door AI gegenereerde manipulaties moeilijk blijven voor zowel mensen als geautomatiseerde tools om consistent te identificeren, vooral tussen video- en audioformaten.
Overheden in zowel de Verenigde Staten als Europa verhogen nu de druk op technologiebedrijven om agressiever te reageren op AI-gegenereerd misbruik, vooral inhoud met intimidatie, chantage, seksuele uitbuiting en niet-consensuele beelden.