Japon polisi, üretken yapay zeka teknolojisi kullanarak kadın ünlülerin cinsel amaçlı görüntülerini oluşturup sattığı şüphesiyle 31 yaşındaki bir erkeği tutukladı. Tutuklama, Tokyo Metropolitan Polis Departmanı tarafından yapıldı; şüphelinin ücretli üyelik sitelerine deepfake içerik yüklediğini ve materyali üretmek için halka açık yapay zeka araçlarını kullandığını söyledi.
Soruşturma kaynaklarına göre, Hokkaido eyaletinin Sapporo bölgesinden Tatsuro Chiba olarak tanımlanan şüpheli, sorgulama sırasında iddiaları itiraf etti. Polis, Aralık 2024 ile Mayıs 2025 arasında abonelik sitelerine en az 2.200 açık deepfake görüntü paylaştığını ve bu faaliyetten yaklaşık 11 milyon yen (yaklaşık 70.000 ABD doları) kazandığını düşünüyor. Yetkililer, bilgisayarında yaklaşık 520.000 saklanan deepfake görüntü buldu; bunların çoğunun aktrislerin ve pop idollerinin kurgusal benzerliklerini gösterdiği bildirildi.
Polis, şüphelinin modelleri yaklaşık 300 kadın kamu figürünün (oyuncular ve eğlence sanatçıları) görüntüleri üzerine eğitmek için üretken yapay zeka yazılımı kullandığını ve böylece açık görüntülerin üretilmesini sağladığını iddia ediyor. Soruşturmacılar, şüphelinin içeriği sosyal medya üzerinden tanıtarak ödeme yapan aboneleri çektiğini ve daha yüksek ücretler karşılığında özel görsel talepleri sunduğunu belirtti. Derin sahteciler, kullanıcıların ücretli aboneliklerle materyale erişebileceği üyelik platformlarında sunuluyordu.
Dava, üretici yapay zekanın kötüye kullanımıyla ilgili Japonya’da ortaya çıkan hukuki ve uygulama zorluklarını vurguluyor. Mevcut Japon yasası, yapay zeka tarafından üretilen deepfake yapımını açıkça suç saymıyor, ancak müstehcen materyallerin dağıtımı ve ticari sömürü, müstehcenlik ve diğer yasalar kapsamında yargılanabilir. Yetkililer, bu dayanın, cinsel açıdan açık deepfake içeriğin ticari üretimi ve paylaşımına karşı önemli bir uygulama olduğunu bildiriyor.
Polis, deepfake içeriğine dair çevrimiçi haberlerin dikkat çekmesiyle başladı ve şüphelinin faaliyetleri ile ilgili üyelik siteleri hakkında soruşturma başlatıldı. Tutuklama, Japon yasalarına aykırı olarak müstehcen görüntüler dağıttığı şüphesiyle yapıldı, ancak suçlamalar ve olası cezalar savcılar tarafından kamuoyuna resmi olarak açıklanmadı. Yetkililer, deepfake üretim ve dağıtımının kapsamını analiz ederken soruşturmanın aktif olduğunu söylüyor.
Uzmanlar, üretken yapay zeka araçlarının gerçekçi sentetik görüntüler yaratmanın teknik engellerini azalttığını ve bunun hukuk bilimcileri, kolluk kuvvetleri ve sivil toplum savunucuları arasında endişe yarattığını belirtti. Japonya’nın yasal çerçevesi, yetkililer ve politika yapıcılar üzerinde inceleniyor; bu süreçte rızasız deepfake görüntüler ve yapay zeka teknolojilerinin ticari olarak sömürülmesinin yarattığı zararları ele almak için güncellemeler veya yeni yasalar gerekip gerekmediğini değerlendiriyor.
Tokyo Metropolitan Polis Departmanı’nın bu kararı, yapay zekanın kötüye kullanımı ve müstehcen dijital içerik dağıtımıyla ilgili çevrimiçi suçlarla mücadele etme çabalarının bir parçasıdır. Benzer vakalar, yetkililerin dijital teknolojilerin düzenlenmesini mevcut müstehcenlik ve dağıtım yasalarının uygulanmasıyla dengelemeye çalışması nedeniyle küresel çapta ortaya çıkmıştır.