Große soziale Medienplattformen wie Meta, TikTok, X, Reddit und Snapchat sind nun gesetzlich verpflichtet, Deepfake-Pornografie und nicht einvernehmliche intime Bilder innerhalb von 48 Stunden nach Erhalt einer gültigen Meldung von Opfern zu entfernen.
Die Anforderung fällt unter das neu eingeführte Take It Down Act, ein Bundesgesetz, das der raschen Verbreitung von KI-generierten sexuellen Deepfakes und Rachepornografie im Internet entgegenwirken soll. Die Gesetzgebung trat diese Woche offiziell vollständig in Kraft, nachdem Plattformen ein einjähriges Compliance-Fenster erhalten hatten, um Melde- und Entfernungssysteme zu entwickeln.
Nach dem Gesetz können Online-Plattformen, die gemeldete Inhalte nicht innerhalb des vorgeschriebenen Zeitrahmens entfernen, mit Bußgeldern von bis zu 53.088 US-Dollar pro Verstoß rechnen. Die Regeln gelten sowohl für authentische, intime Bilder, die ohne Zustimmung geteilt wurden, als auch für KI-generierte, sexuell explizite Deepfakes.
Die Federal Trade Commission ist für die Durchsetzung des Gesetzes verantwortlich und hat bereits vor der Durchsetzungsfrist an große Technologieunternehmen Compliance-Erinnerungen herausgegeben. Zu den von Regulierungsbehörden angeblich kontaktierten Unternehmen gehören Meta, TikTok, X, Amazon, Microsoft, Reddit, Snap und Alphabet.
Das Gesetz stellt eine der stärksten bundesstaatlichen Reaktionen bisher auf den zunehmenden Missbrauch generativer KI-Tools dar, die zur Erstellung gefälschter expliziter Bilder und Videos verwendet werden. Deepfake-Technologie ist in den letzten zwei Jahren immer zugänglicher geworden und ermöglicht es Nutzern, realistische, nicht einvernehmliche Inhalte mit minimaler technischer Expertise zu erstellen.
Opfer von Deepfake-Missbrauch kämpfen schon lange damit, Plattformen dazu zu zwingen, schädliche Inhalte schnell zu entfernen, besonders wenn Bilder gleichzeitig über mehrere Dienste verteilt werden. Das neue Gesetz verlangt von Unternehmen, klare Meldewerkzeuge bereitzustellen und schnell zu handeln, sobald gültige Löschanträge eingereicht wurden.
Die Gesetzgebung wurde teilweise durch mehrere aufsehenerregende Deepfake-Missbrauchsfälle mit Prominenten, Studierenden und Minderjährigen inspiriert. In den letzten Jahren haben sich KI-generierte explizite Bilder, die sich gegen öffentliche Persönlichkeiten und Privatpersonen richten, weit verbreitet auf sozialen Medienplattformen, was Druck für eine strengere Regulierung auslöst.
Forscher warnen weiterhin, dass sich der Missbrauch von Deepfakes schneller entwickelt als die derzeitigen Erkennungssysteme. Mehrere aktuelle akademische Studien haben gezeigt, dass viele KI-generierte Manipulationen sowohl für Menschen als auch für automatisierte Werkzeuge schwer konsistent zu identifizieren sind, insbesondere über Video- und Audioformate hinweg.
Regierungen sowohl in den Vereinigten Staaten als auch in Europa erhöhen nun den Druck auf Technologieunternehmen, aggressiver auf KI-generierten Missbrauch zu reagieren, insbesondere auf Inhalte mit Belästigung, Erpressung, sexueller Ausbeutung und nicht einvernehmlichen Bildern.