Meta, TikTok, X, Reddit ve Snapchat gibi büyük sosyal medya platformları, mağdurlardan geçerli bir rapor aldıktan sonra 48 saat içinde deepfake pornografi ve rızasız samimi görüntüleri kaldırmak yasal olarak zorunlu.
Bu gereklilik, yapay zeka tarafından üretilen cinsel deepfake ve intikam pornosunun hızlı yayılmasını önlemek için tasarlanmış yeni yürürlüğe giren Take It Down Act kapsamında yer alıyor. Yasa, platformlara raporlama ve kaldırma sistemleri kurmaları için bir yıllık uyum süresi verildikten sonra bu hafta resmen tam yürürlüğe girdi.
Yasaya göre, bildirilen içeriği zorunlu süre içinde kaldırmayan çevrimiçi platformlar ihlal başına 53.088 dolara kadar para cezası alabilir. Kurallar, hem izinsiz paylaşılan gerçek samimi görüntüler hem de yapay zeka tarafından oluşturulan cinsel açıdan açık deepfake içerikler için geçerlidir.
Federal Ticaret Komisyonu, yasayı uygulamakla sorumludur ve uygulama son tarihinden önce büyük teknoloji şirketlerine uyum hatırlatmaları yayınladı. Düzenleyicilerin iletişime geçtiği şirketler arasında Meta, TikTok, X, Amazon, Microsoft, Reddit, Snap ve Alphabet yer alıyor.
Yasa, sahte açık görsel ve video oluşturmak için kullanılan üretken yapay zeka araçlarının artan kötüye kullanımına şimdiye kadarki en güçlü federal yanıtlardan birini temsil ediyor. Deepfake teknolojisi son iki yılda giderek daha erişilebilir hale geldi ve kullanıcıların minimal teknik uzmanlıkla gerçekçi, rızasız içerik üretmesini sağladı.
Deepfake istismarı mağdurları, özellikle görüntüler aynı anda birden fazla servisde yayıldığında, platformları zararlı içerikleri hızlıca kaldırmaya zorlamakta uzun süredir mücadele ediyor. Yeni yasa, şirketlerin açık raporlama araçları sağlamasını ve geçerli kaldırma talepleri sunulduğunda hızlı harekete geçmesini gerektiriyor.
Yasa, ünlüler, öğrenciler ve reşit olmayanları içeren birkaç yüksek profilli deepfake istismar olayından kısmen ilham aldı. Son yıllarda, kamu figürlerini ve özel bireyleri hedef alan yapay zeka tarafından oluşturulan açık görüntüler sosyal medya platformlarında geniş yayıldı ve daha güçlü düzenlemeler için baskı yarattı.
Araştırmacılar, deepfake kötüye kullanımının mevcut tespit sistemlerinden daha hızlı geliştiği konusunda uyarıda bulunmaya devam ediyor. Son zamanlarda yapılan birkaç akademik çalışma, birçok yapay zeka tarafından oluşturulan manipülasyonun hem insanlar hem de otomatik araçlar için, özellikle video ve ses formatları arasında tutarlı şekilde tanımlamasının zor olduğunu ortaya koymuştur.
Hem Amerika Birleşik Devletleri hem de Avrupa’daki hükümetler, teknoloji şirketleri üzerinde yapay zeka kaynaklı istismara daha agresif müdahale etmeleri için baskıyı artırıyor; özellikle taciz, şantaj, cinsel sömürü ve rızasız görüntüleri içeren içeriklere karşı daha agresif bir şekilde yanıt vermeye çalışıyor.