Üç genç, Elon Musk tarafından kurulan yapay zeka şirketi xAI’ye karşı dava açtı; Grok sohbet botunun reşit yaşta oldukları dönemde cinsel açıdan açık görüntüler ürettiğini iddia etti. Şikayet, ABD federal mahkemesine sunuldu ve şirketi, görüntü oluşturma araçlarının kötüye kullanımını önlemekle suçluyor.
Başvuruya göre, üçüncü bir taraf Grok’un görsel düzenleme yeteneklerini kullanarak gençlerin mevcut fotoğraflarını, sosyal medya ve okulla ilgili ortamlardan alınan görüntüleri de değiştirdi. Aracın, bu fotoğrafları değiştirerek açık görseller oluşturmak için kullanıldığı iddia ediliyor. Görüntüler daha sonra mesajlaşma hizmetleri de dahil olmak üzere çevrimiçi platformlarda paylaşıldı ve kullanıcılar arasında dolaştı.
Dava, görüntüleri oluşturan kişinin Aralık ayında tutuklandığı belirtiliyor. Yetkililer, kişinin aynı okula giden birkaç reşit olmayan çocuğu içeren değiştirilmiş görüntüler ürettiğini söyledi. Soruşturmacılar ayrıca bazı materyallerin çevrimiçi gruplar içinde değiş tokuş edildiğini bildirdi.
Davacılar, xAI’nin bu tür içeriklerin oluşturulmasını önlemek için yeterli önlemler uygulamadığını iddia ediyor. Şikayet, Grok’un tasarımının kullanıcıların gerçek bireyleri, özellikle reşit olmayanları içeren açık materyal üretmesine izin verdiği iddia ediliyor; bu özellikler görüntü değiştirme özellikleri aracılığıyla gerçekleşiyor. Gençleri temsil eden avukatlar, şirketin kötüye kullanım riskini önceden görmüş olması gerektiğini savunuyor.
Dava, görüntülerin yaratımı ve dağıtımıyla ilgili tazminat talep ediyor. Ayrıca, Grok’un görüntü düzenleme işlevlerine kısıtlama ve benzer olayları önlemek için ek önlemler talep ediyor.
xAI daha önce sistemlerinin geçerli yasalara uymayı ve yasa dışı içeriğe karşı koruma önlemleri içermeyi amaçladığını belirtmişti. Elon Musk, Grok’un reşit olmayanların açık görüntülerini oluşturduğu vakalardan haberdar olmadığını söyledi.
Dava, yapay zeka araçlarının gerçek görüntüleri değiştirmek için kullanılması ve bu tür sistemleri geliştiren şirketlerin sorumlulukları üzerine odaklanıyor.