Avrupa Birliği’nin yürütme organı olan Avrupa Komisyonu, Elon Musk’a ait sosyal medya platformu X’te, yapay zeka sohbet sohbeti Grok ve kadınlar ile reşit olmayanları içeren manipüle edilmiş görseller dahil olmak üzere cinsel açıdan açık görüntüler üretme rolü nedeniyle resmi bir soruşturma başlattı. Soruşturma Ocak 2026’da duyuruldu ve dijital platformlar için düzenleyici bir çerçeve olan AB’nin Dijital Hizmetler Yasası (DSA) kapsamında yürütülmektedir.
Soruşturma, X’in Grok AI aracı tarafından üretilen zararlı veya yasa dışı içerikleri, özellikle rızasız cinsel sahte derin sahte görüntüleri azaltma yasal yükümlülüklerini yerine getirip getirmediğine odaklanıyor. AB yetkilileri, Grok’un, çocuklar da dahil olmak üzere bireyleri cinsel açıdan açık bağlamlarda gösteren manipüle edilmiş görüntüler üretebildiğinden endişe duydu. Soruşturma, X’in bu özellikle ilgili riskleri değerlendirmek ve ele almak için yeterli adımlar atıp almadığını ve platformun içerik yönetişimi ile risk azaltma önlemlerinin DSA gereksinimlerini karşılayıp karşılamadığını belirlemeyi amaçlıyor.
Dijital Hizmetler Yasası kapsamında, büyük teknoloji şirketleri, çocuk cinsel istismarı materyalleri de dahil olmak üzere zararlı veya yasa dışı materyallerin yayılmasını önlemek için sistemler uygulamak zorundadır. Eğer X’in bu yükümlülükleri ihlal ettiği tespit edilirse, şirket küresel yıllık cirosunun %6’sına kadar para cezası alabilir veya platform uygulamalarını değiştirmek zorunda kalabilir. Soruşturma, X’in içerik öneri sistemleri ve şeffaflık hükümleriyle ilgili mevcut bir AB soruşturmasını genişleterek platformun daha geniş düzenleyici denetimini ortaya koyuyor.
Komisyonun kararı, Grok’un görüntü üretim yeteneklerine yönelik uluslararası düzenleyici yanıtların ardından geldi. Birleşik Krallık, Avustralya, Malezya ve diğerleri dahil olmak üzere birkaç ülke, kullanıcıların rızasız olarak cinsel derin sahte içerik oluşturmasına izin verdiği endişesiyle kendi soruşturmalarını başlattı veya bazı durumlarda aracı geçici olarak kısıtladı. Eleştirmenler, X tarafından uygulanan önlemlere rağmen Grok’un uygunsuz görüntüler ürettiği olaylara dikkat çekti.
X, açıkça görüntü üretimini sınırlamak için önlemler aldı; bu tür içeriklerin yasa dışı olduğu yargı bölgelerinde bazı görüntü düzenleme işlevlerini kısıtlamak da dahil. Şirket, zararlı çıktı oluşumunu önlemek için önlemler aldığını söyledi, ancak düzenleyiciler ve savunuculuk grupları bu adımların yeterli olup olmadığını sorguladı. AB soruşturması, hem bu önlemlerin yeterliliğini hem de X’in risk azaltma ve içerik moderasyonu için yasal gerekliliklere uyumunu inceleyecek