Amerika Birleşik Devletleri Senatosu’ndaki Demokrat milletvekilleri, Apple ve Google’ı X ve ona bağlı yapay zeka aracı Grok’u uygulama mağazalarından kaldırmaya çağırdı. Senatörler, bu talebinin Grok’un rızasız ve cinsel olarak kullanıldığı, özellikle reşit olmayanların yer aldığı içerikler dahil olmak üzere, yönelik raporların ardından geldiğini söyledi.
İki şirkete gönderilen bir mektupta, senatörler X ve Grok’un devam eden erişilebilirliğinin, zararlı veya sömürücü materyalleri yasaklayan uygulama mağazası kurallarıyla çelişebileceğini söylediler. Apple ve Google’ın, platformları üzerinden dağıtılan uygulamalar yasa dışı içerik yaratma veya yayımıyla bağlantılı olduğunda kendi politikalarını uygulama sorumluluğu olduğunu savundular.
Mektup, Senatörler Ron Wyden, Ben Ray Luján ve Ed Markey tarafından imzalandı. Yasa koyucuları, X ve xAI tarafından açıklanan son değişikliklerin, bazı görüntü üretim özelliklerinin ücretli kullanıcılarla sınırlı kalması da dahil olmak üzere, teknolojiyle ilgili riskleri yeterince ele almadığını söyledi. Zararlı materyallerin erişilebilir olmaya devam ettiğini ve abonelik durumuna dayalı kısıtlamaların etkili koruma oluşturmadığını belirttiler.
Apple’ın App Store yönergeleri, cinsel istismar veya çocuklara zarar veren materyalleri içeren içerikleri yasaklıyor. Google’ın Play Store politikaları da benzer şekilde, rızasız cinsel içeriği etkinleştiren veya kolaylaştıran uygulamaları kısıtlıyor. Senatörler, harekete geçmemenin bu kuralların güvenilirliğini zedeleyebileceğini ve kullanıcıları sürekli zarara maruz bırakabileceğini belirtti.
Apple ya da Google, bu talebe yanıt olarak X veya Grok’u kaldırmayı planlayıp almayacaklarını kamuoyuna açıklamadı. X ve xAI raporlama sırasında mektuba yönelik resmi bir yanıt yayınlamadı.
Bu çekicilik, üretken yapay zeka araçlarının ve gerçekçi ama zararlı görüntüler üretme yeteneklerinin daha geniş bir incelemesi sırasında ortaya çıkıyor. Yasa koyarları, davanın, platform operatörleri ve uygulama dağıtıcıları üzerine, yapay zeka sistemlerinin kötüye kullanıma dayalı veya sömürücü içerik oluşturmak için kötüye kullanılabilecek riskleri ele almaları için artan baskıyı ortaya koyduğunu belirtti.