İki Hollandalı savunuculuk kuruluşu, sosyal medya sitesi X ve yapay zeka aracı Grok’a karşı dava açtı; bu yazılımın, bireylerin rızaları olmadan kısmen veya tamamen çıplak görüntüler üretebileceğini belirtti. Bu işlem, çevrimiçi istismar uzmanlık merkezi Offlimits ve sivil toplum mağdur destek fonu Fonds Slachtofferhulp tarafından gerçekleştirildi.
26 Şubat 2026’da Amsterdam Bölge Mahkemesi’nde özet duruşma açtılar ve davanın 12 Mart 2026’da duruşması planlandı. Kuruluşlar, kullanıcıların rızasız görüntüler oluşturmasına izin verdiğini söyledikleri yapay zeka aracının özelliklerini durdurmak için bir emir talep ediyor ve X ile Grok’a uymazlarsa günlük 100.000 € ceza talep ediyorlar.
Gruplar, Grok’un mevcut yeteneklerinin kullanıcıların yapay zeka sohbet botundan gerçek insanları çıplak veya cinsel olarak ima edici hallerde tasvir eden görüntüler üretmesini talep etmelerini sağladığını belirtti. Kendi görüşlerine göre, aracın Hollanda yasalarına göre çocuk cinsel istismarı materyali olarak nitelendirilen görüntüler üretmek ve dağıtmak için de kullanılabileceğini belirttiler. Avrupa ve Hollanda düzenlemelerine göre, reşit olmayanların cinselleştirilmiş fotoğraflarının dağıtımı yasa dışı ve yasaktır. Offlimits ve Fonds Slachtofferhup, söz konusu yapay zeka özelliklerinin Genel Veri Koruma Yönetmeliği, Dijital Hizmetler Yasası, Hollanda Ceza Kanunu, medeni haklar standartları ve portre hakları korumalarını ihlal ettiğini iddia ediyor.
Şikayetlerinde, kullanıcıların Grok’u izni olmadan soyundurmasına veya kısmen maruz bırakmasına izin veren tüm işlevlerin derhal askıya alınmasını talep etti. Ayrıca, mahkemeden sanıkların bu tür özellikleri sunmaya devam ettiği her gün için mali ceza uygulamasını talep ettiler. Gruplar, Grok’un görüntü oluşturma yeteneklerinin erişilebilirliği ve kullanım kolaylığının, zararlı materyallerin çevrimiçi olarak oluşturulmasına ve yaygın şekilde paylaşılmasına olanak sağladığını, bunun etkilenen mağdur sayısını artırdığını belirttiler.
Offlimits ve Fonds Slachtofferhulp temsilcileri, yasama ve denetim süreçlerinin yavaş olabileceği için acil hukuki müdahalenin gerekli olduğuna inandıklarını ve bu tür görüntülerin mümkün olduğu her gün daha fazla zarara katkıda bulunduğunu belirttiler. Rızasız cinsel görsellerin oluşturulması ve yayılmasının iddia edilen zararını önemli olarak nitelendirdiler ve mağdurların “sınırsız teknoloji bedelini ödemeleri” beklenmemesi gerektiğini belirttiler.
Dava, 2025 sonları ve 2026 başlarında ortaya çıkan Grok’un yapay zeka tarafından oluşturulmuş deepfake görüntüler üretme yeteneğiyle ilgili birçok rapor ve tartışmanın ardından geliyor; bu görüntüler bireyleri açık veya minimal kıyafetlerle tasvir ediyor; bu örnekler de konuya dair uluslararası analizlerde belirtilmiştir. Önceki raporlarda, kullanıcıların Grok’tan insanların fotoğraflarını onların rızaları olmadan cinsel özellikler veya kıyafetler eklemek için değiştirmesini isteyebildikleri ve bazı oluşturulan görüntülerin X’te yaygın olarak dolaştığı belirtildi.
Daha önce Twitter olarak bilinen X ve Grok AI aracı, teknoloji girişimcisi Elon Musk ile ilişkili olan xAI şirketine aittir. En son raporlara göre ne X ne de xAI, Hollanda davasını kamuoyuna açıklamamıştı. Amsterdam’daki yasal dava, AI araçları ve sosyal medya platformlarının rızasız içerik yaratımı ve yayımı konusunda karşılaştığı daha geniş bir düzenleyici ve hukuki zorlukların bir parçasıdır.