İngiliz İşçi Partisi milletvekili Jess Asato, Londra’daki Yüksek Mahkeme’den, Elon Musk’ın yapay zeka şirketi xAI’nin, Grok sohbet botunun kendisinin rızası olmadan cinsel izlenimlerini oluşturmasını engellemesini emretmeyi istiyor. Dava, platformun tasarımının, gizlilik ve veri koruma haklarını ihlal eden manipüle edilmiş içeriklerin oluşturulmasına izin verdiğini savunuyor.
Asato, geçen ay kullanıcıların Grok aracılığıyla kendisini tasvir eden uydurma cinsel görüntüler oluşturduğu iddiasının ardından yasal işlem başlattığını duyurdu. Mahkeme dosyalarına göre, oluşturulan videolardan birinde onun cinsel saldırıdan önce kloroform kullanıldığını gösterdiği ve bu da yapay zeka geliştiricisine karşı yasal işlem başlatmasına neden oldu.
Dava, xAI’yi özel bilgileri kötüye kullanmakla ve Birleşik Krallık veri koruma yasalarını ihlal etmekle suçluyor. Asato, Grok’un tasarlanma ve eğitiliş şeklinin kullanıcıların tartışmalı içeriği üretmesini sağladığını savunuyor.
Mahkeme belgeleri, xAI’nin hukuk ekibinin etkili ve kalıcı teknik koruma önlemlerini getirmesini zorunlu kılan bir tedbir talep ediyor. Eğer kabul edilirse, emir Grok’un onu tasvir eden manipüle edilmiş cinsel imgelerin oluşturulmasını engellemesini gerektirecekti.
Asato’nun avukatlarına göre, dava, üretken bir yapay zeka sisteminin tasarımı ve işletilmesine doğrudan gizlilik ve veri koruma yasalarını uygulayarak önemli bir hukuki emsal oluşturabilir. Birleşik Krallık’ta bir yapay zeka geliştiricisine karşı bu tür bir çözüm talep edilmediğini söylüyorlar.
xAI, dosyanın yapıldığı sırada iddialara kamuoyuna yanıt vermemişti. Şirket ayrıca Yüksek Mahkeme davalarında savunma sunmamıştı.
Grok, Musk’ın sosyal medya platformu X’e entegre edilmiş durumda ve rızasız cinsel görseller üretebilme yeteneği nedeniyle birçok ülkede düzenleyici incelemelere maruz kaldı. xAI’ye karşı açılan yasal dava, üretken yapay zeka araçlarının izni olmadan insanların gerçekçi görüntülerini yaratmak için nasıl kullanılabileceğiyle ilgili daha geniş endişelerin ardından geliyor.
Davada ayrıca Grok’un davranışlarını yönettiği iddia edilen sistem içi uyarıları da belirtiyor. Mahkeme dosyalarına göre, bir talimat chatbotun açıkça suç faaliyetlerinde bulunan kullanıcılara yardım etmemesi için yönlendirildi. Ancak Asato’nun hukuk ekibi, diğer uyarıların sistemin yetişkin cinsel içerik veya saldırgan materyaller üzerine, şiddet içeren kurgusal yetişkin cinsel içerikler dahil olmak üzere, herhangi bir kısıtlama olmadığını belirttiğini savunuyor.
Avukatı Ravi Naik, chatbotun davranışının yazılımın kendisinin öngörülemez eylemleri değil, geliştirme sırasında alınan kararları yansıttığını söyledi. Bu tasarım seçimlerinin yasal sonuçları olması gerektiğini savundu ve talep edilen mahkeme kararının, xAI gerekli değişiklikleri gönüllü olarak yapmazsa sistemin Birleşik Krallık hukuki standartlarına uymasını gerektireceğini belirtti.
Bu dava, xAI’nin görüntü üretimini sınırlama konusundaki önceki çabalarının ardından geliyor. Ocak ayında şirket, görsellerin düzenlenmesine yönelik kısıtlamalar açıkladı ve yerel yasaları ihlal edecek kıyafetleri açığa çıkaran kişilerin taleplerini engelledi. Ancak Reuters, Şubat ayında Grok’un kullanıcılar katılımcıların rıza göstermediğini açıkça belirtmesine rağmen bireylerin cinsel görüntülerini üretebildiğini bildirdi.
Birleşik Krallık davası, Grok’u içeren birkaç hukuki mücadeleden biridir. Bu yılın başlarında, Baltimore Şehri, yapay zeka tarafından oluşturulan cinsel amaçlı görüntüler nedeniyle xAI’ye karşı dava açtı; ayrıca Amerika Birleşik Devletleri ve Hollanda’da ek işlemler başlatıldı. xAI, Asato’nun özel iddiaları hakkında kamuoyuna yorum yapmadı ve Yüksek Mahkeme davası hâlâ devam ediyor.