Die japanische Polizei hat einen 31-jährigen Mann festgenommen, der unter dem Verdacht steht, sexuell explizite Bilder weiblicher Prominenter mithilfe generativer künstlicher Intelligenz erstellt und verkauft zu haben. Die Festnahme erfolgte durch die Polizei von Tokio, die angab, der Verdächtige habe Deepfake-Inhalte auf kostenpflichtigen Mitgliedswebsites hochgeladen und öffentlich verfügbare KI-Tools zur Erstellung des Materials verwendet.
Laut Ermittlungsquellen gab der Verdächtige, identifiziert als Tatsuro Chiba aus Sapporo in der Präfektur Hokkaido, die Vorwürfe während der Befragung zu. Die Polizei geht davon aus, dass er zwischen Dezember 2024 und Mai 2025 mindestens 2.200 explizite Deepfake-Bilder auf Abonnementseiten veröffentlicht und mit dieser Aktivität etwa 11 Millionen Yen (etwa 70.000 US-Dollar) verdient hat. Die Behörden fanden etwa 520.000 gespeicherte Deepfake-Bilder auf seinem Computer, von denen viele Berichten zufolge fiktionalisierte Abbildungen von Schauspielerinnen und Pop-Idolen zeigten.
Die Polizei behauptet, der Verdächtige habe generative KI-Software eingesetzt, um Modelle an Bildern von etwa 300 weiblichen öffentlichen Persönlichkeiten, darunter Schauspielerinnen und Entertainerinnen, zu trainieren, was die Produktion der expliziten Bilder ermöglichte. Die Ermittler gaben an, dass der Verdächtige die Inhalte über soziale Medien beworben habe, um zahlende Abonnenten anzuziehen, und individuelle Bildanfragen gegen höhere Gebühren angeboten habe. Die Deepfakes wurden auf Mitgliederplattformen gehostet, auf denen Nutzer über kostenpflichtige Abonnements auf das Material zugreifen konnten.
Der Fall hebt aufkommende rechtliche und durchsetzungsbezogene Herausforderungen in Japan im Zusammenhang mit dem Missbrauch generativer KI hervor. Das aktuelle japanische Recht kriminalisiert nicht ausdrücklich die bloere Erstellung von KI-generierten Deepfakes, aber die Verbreitung obszönen Materials und kommerzielle Ausbeutung können nach Obszönitäts- und anderen Gesetzen strafrechtlich verfolgt werden. Behörden berichten, dass dieser Fall eine bedeutende Durchsetzungsmaßnahme gegen die kommerzielle Produktion und Weitergabe sexuell expliziter Deepfake-Inhalte darstellt.
Polizeiliche Ermittlungen begannen, nachdem Online-Berichte über die Deepfake-Inhalte Aufmerksamkeit erregten, was eine Untersuchung der Aktivitäten des Verdächtigen und der beteiligten Mitgliedswebsites auslöste. Die Festnahme erfolgte unter dem Verdacht, obszöne Bilder unter Verstoß gegen japanisches Recht verbreitet zu haben, obwohl Anklagen und mögliche Strafen von den Staatsanwälten nicht offiziell öffentlich dargelegt wurden. Die Behörden sagen, die Ermittlungen bleiben laufend, während sie den Umfang der Produktion und Verbreitung der Deepfakes analysieren.
Experten haben festgestellt, dass generative KI-Tools technische Hürden für die Erstellung realistischer synthetischer Bilder gesenkt haben, was bei Rechtswissenschaftlern, Strafverfolgungsbehörden und Zivilgesellschaftsvertretern Besorgnis auslöst. Japans rechtlicher Rahmen wird kritisch geprüft, während Beamte und politische Entscheidungsträger prüfen, ob Aktualisierungen oder neue Gesetze notwendig sind, um Schäden durch nicht einvernehmliche Deepfake-Bilder und kommerzielle Nutzung künstlicher Intelligenztechnologien zu bekämpfen.
Die Maßnahme der Tokyo Metropolitan Police Department ist Teil umfassenderer Bemühungen, Online-Delikte im Zusammenhang mit KI-Missbrauch und der Verbreitung obszöner digitaler Inhalte zu bekämpfen. Ähnliche Fälle sind weltweit aufgetaucht, da Behörden versuchen, die Regulierung digitaler Technologien mit der Durchsetzung bestehender Gesetze zur Obzönität und Verteilung in Einklang zu bringen.