Elon Musk’ın yapay zeka şirketi xAI, Güney Carolina’da Grok sohbet botunu kullanarak çocuk cinsel istismarı materyalleri ve cinsel açıdan açık deepfake’ler üretmekle suçlanan bir adama dava açtı. Sivil dava, daha önce çocuk cinsel istismarı materyalleriyle ilgili eyalet ceza suçlamalarıyla tutuklanan Terry Wayne Harwood’u hedef alıyor. xAI, davanın kullanıcıları yapay zeka araçlarını kullanarak yasa dışı içerik yaratmakla sorumlu tutmak amacıyla yapıldığını söylüyor.
Davaya göre, Harwood’un Grok’u çocuk cinsel istismarı ve yetişkinler ile reşit olmayanları içeren açık içerikleri tasvir eden görüntüler yaratmak veya değiştirmek için kullandığı iddia ediliyor. xAI, chatbotun güvenlik önlemlerini bilerek atladığını ve platformun hizmet şartlarını ihlal ettiğini, şirketin hukuki ve itibar zararına maruz bıraktığını iddia ediyor. Şirket, maddi tazminat, hukuki masrafların geri ödenmesini ve Harwood’un gelecekte Grok veya diğer xAI hizmetlerini kullanmasını engelleyen kalıcı bir tedbir talep ediyor.
Bu başvuru, bir yapay zeka geliştiricisinin kendi kullanıcılarından birine yasa dışı içerik yarattığı iddiası nedeniyle dava açtığı ilk bilinen davalardan biri oldu. xAI, yalnızca kolluk kuvvetlerine odaklanmak yerine, medeni davaların üretici yapay zeka sistemlerinin kötüye kullanımını önlemeye yardımcı olabileceğini ve şirketin kabul edilebilir kullanım politikalarını pekiştirebileceğini savunuyor.
Harwood, soruşturmacıların elektronik cihazlarında çocuk cinsel istismarı materyalleri bulduğu iddiasının ardından Şubat ayında tutuklandı. xAI’ye göre, ceza soruşturmasında yer alan bazı görüntüler Grok’un görüntü oluşturma yetenekleri kullanılarak oluşturulmuş veya değiştirilmiştir. Ceza davası, şirketin medeni davasından ayrı kalıyor.
Dava, Grok’un görüntü oluşturma özellikleri üzerine aylarca süren incelemelerin ardından geldi. Bu yılın başlarında, kullanıcıların chatbotun rızaya dayalı olmayan cinsel deepfake üretebildiğini, özellikle reşit olmayanların yer aldığı manipüle edilmiş görüntüler de dahil olmak üzere, xAI eleştirilere ve birçok hukuki mücadeleye maruz kaldı. Şirket o zamandan beri ek güvenlik önlemleri getirdi ve istismarcı hesapları aktif olarak kaldırdığını ve yasa dışı faaliyetleri Ulusal Kayıp ve İstismar Edilen Çocuklar Merkezi’ne bildirdiğini söylüyor. xAI’ye göre, 2026 yılında 52.000’den fazla hesabı askıya aldı ve 73.000’den fazla rapor sundu; bu da en az 244 tutuklamaya katkıda bulundu.