Birleşik Krallık hükümeti, entegre yapay zeka aracı Grok’un cinsel izler oluşturmak için kullanıldığı haberlerinin ardından sosyal medya X’e yönelik olası düzenleyici önlemleri gözden geçiriyor. Yetkililer, izinlemenin platformun Birleşik Krallık çevrimiçi güvenlik gerekliliklerine uyup uymadığına odaklandığını söyledi; çünkü rızaya dayalı olmayan ve manipüle edilmiş görüntülerin oluşturulması ve paylaşılması konusundaki endişeler ortaya çıktı.
Sorun, kullanıcıların metin istemlerine göre görseller oluşturmasını veya değiştirmesini sağlayan Grok’un görsel oluşturma özelliklerine odaklanıyor. Birleşik Krallık yetkililerinin aktardığı raporlar, aracın rızasız bireylerin cinselleştirilmiş tasvirlerini, özellikle reşit olmayanların yer aldığı görüntüler de dahil olmak üzere üretmek için kullanıldığını gösteriyor. Hükümet temsilcileri, bu tür materyallerin Birleşik Krallık yasalarını ihlal edebileceğini ve çevrimiçi güvenlik için önemli riskler oluşturabileceğini belirtti.
Grok, X’in ana şirketinin sahip olduğu xAI tarafından geliştirilmiştir. Eleştirilere yanıt olarak, X Grok’un bazı görsel oluşturma ve düzenleme özelliklerini ücretli abonelerle sınırladı. Birleşik Krallık yetkilileri, bu değişikliğin platformda zararlı içeriklerin ortaya çıkmasıyla ilgili temel endişeleri ele almadığını söyledi.
Birleşik Krallık iletişim düzenleyicisi Ofcom, denetim sorumlulukları kapsamında X ile iletişime geçti. Birleşik Krallık’ın çevrimiçi güvenlik çerçevesi kapsamında, platformların yasa dışı ve zararlı içeriklerin yayılmasını önlemesi ve bu tür içerikler ortaya çıktığında hızlı harekete geçmesi gerekmektedir. Şirketler bu yükümlülükleri yerine getirmezse Ofcom, para cezası veya diğer yaptırım önlemleri uygulama yetkisine sahiptir.
Hükümet kaynakları, uyum sorunları çözülmezse platforma erişim kısıtlamaları da dahil olmak üzere tüm düzenleyici seçeneklerin değerlendirildiğini belirtti. Henüz bir karar açıklanmadı ve yetkililer şirketle görüşmelerin devam ettiğini söyledi.
Bu durum diğer ülkelerde de harekete geçilmesini sağladı. Malezya ve Endonezya’daki yetkililer, rızasız cinsel görüntüler ve dijital zararlar konusundaki endişeleri gerekçe göstererek Grok’a erişimi zaten kısıtladı. Bu önlemler, açık içerik üretmek için kullanılabilecek yapay zeka araçlarına yönelik uluslararası denetimi artırdı.
Birleşik Krallık yetkilileri, bu vakanın üretken yapay zekanın düzenlenmesinde daha geniş zorlukları ortaya koyduğunu söyledi. Teknoloji şirketlerinden yeni araçların sorumlu ve özellikle çocukları korumak için tasarlanmış ulusal yasalarla uyumlu şekilde kullanılmasını sağlamalarının beklendiğini vurguladılar. Daha ileri adımlar, düzenleyici değerlendirmelerin sonucuna ve X’in uygulama taleplerine vereceği yanıtına bağlı olacaktır.