Les principales plateformes de réseaux sociaux, dont Meta, TikTok, X, Reddit et Snapchat, sont désormais légalement tenues de supprimer la pornographie deepfake et les images intimes non consenties dans les 48 heures suivant la réception d’un signalement valide des victimes.
Cette exigence relève de la nouvelle loi Take It Down Act, une loi fédérale conçue pour lutter contre la propagation rapide des deepfakes sexuels générés par IA et de la pornographie de vengeance en ligne. La législation est officiellement entrée en application complète cette semaine après que les plateformes ont obtenu une fenêtre de conformité d’un an pour mettre en place des systèmes de signalement et de suppression.
Selon la loi, les plateformes en ligne qui ne retirent pas le contenu signalé dans le délai imparti peuvent faire face à des amendes allant jusqu’à 53 088 $ par infraction. Les règles s’appliquent aussi bien aux images intimes authentiques partagées sans consentement qu’aux deepfakes sexuellement explicites générés par l’IA.
La Federal Trade Commission est responsable de l’application de la loi et a déjà émis des avertissements de conformité aux grandes entreprises technologiques avant la date limite d’application. Parmi les entreprises contactées par les régulateurs figurent Meta, TikTok, X, Amazon, Microsoft, Reddit, Snap et Alphabet.
Cette loi représente l’une des réponses fédérales les plus fortes à ce jour face à l’abus croissant des outils d’IA générative utilisés pour créer de fausses images et vidéos explicites. La technologie deepfake est devenue de plus en plus accessible au cours des deux dernières années, permettant aux utilisateurs de générer un contenu réaliste non consensuel avec un minimum d’expertise technique.
Les victimes d’abus de deepfake ont longtemps du mal à forcer les plateformes à supprimer rapidement les contenus nuisibles, surtout lorsque les images se propagent simultanément sur plusieurs services. La nouvelle loi exige que les entreprises fournissent des outils de signalement clairs et agissent rapidement une fois que les demandes de retrait valides sont soumises.
La législation a été partiellement inspirée par plusieurs incidents très médiatisés d’abus deepfake impliquant des célébrités, des étudiants et des mineurs. Ces dernières années, des images explicites générées par IA ciblant des personnalités publiques et des particuliers se sont largement répandues sur les réseaux sociaux, suscitant une pression pour une réglementation plus stricte.
Les chercheurs continuent d’avertir que l’abus du deepfake évolue plus rapidement que les systèmes de détection actuels. Plusieurs études universitaires récentes ont montré que de nombreuses manipulations générées par l’IA restent difficiles à identifier de manière cohérente tant pour les humains que pour les outils automatisés, en particulier entre formats vidéo et audio.
Les gouvernements des États-Unis et d’Europe exercent désormais une pression accrue sur les entreprises technologiques pour qu’elles réagissent plus fermement aux abus générés par l’IA, en particulier les contenus impliquant harcèlement, chantage, exploitation sexuelle et images non consenties.