Malezya ve Endonezya, yetkililerin zararlı deepfake görüntüler üretmek için kullanıldığını söylemesinin ardından, X’e entegre edilmiş yapay zeka aracı Grok’a erişimi engelledi. Her iki ülkedeki yetkililer, bu işlemin, aracın kullanıldığı rızasız ve cinsel içerik yayılımını sınırlamak için atıldığını söyledi.
Endonezya’da İletişim ve Bilişim Bakanlığı, Grok’un ulusal yasaları ve sosyal normları ihlal eden manipüle edilmiş görüntüler üretebildiği tespit edilince görevden alındığını açıkladı. Bakanlık, mevcut düzenlemelerin yetkililere yasaklı içeriğin dağıtımını sağlayan dijital hizmetleri kısıtlamasına izin verdiğini, bireylere zarar veren veya kamu düzenini bozan materyaller de dahil olduğunu belirtti. Yetkililer, blokun güvenlik önlemleri güçlendirilene kadar yerinde kalacağını söyledi.
Malezya’nın iletişim düzenleyicisi de benzer bir adım attı ve Grok’un görüntü oluşturma özelliklerinin yeterli kontroller olmadan deepfake oluşturmak için kötüye kullanılabileceği endişelerini dile getirdi. Düzenleyici, platformun kötüye kullanımı önlemek için yeterli teknik önlemler göstermediğini ve proaktif moderasyon yerine kullanıcı raporlarına çok fazla dayandığını belirtti. Aracın erişimi kısıtlandı ve yetkililer yerel içerik ve güvenlik kurallarına uyumu değerlendirdi.
Grok, ortak sahiplik yoluyla X ile bağlantılı olan xAI tarafından geliştirilmiştir. Araçlar, kullanıcıların metin istemlerinden değiştirilmiş ve cinselleştirilmiş görseller üretme yeteneğini göstermesiyle dikkat çekti. Eleştirmenler, bu tür yeteneklerin özellikle kadınlar ve çocuklar için gizlilik ve kişisel güvenlik açısından risk oluşturduğunu belirtti.
Her iki hükümet de kısıtlamaların önlem amaçlı olduğunu ve kullanıcı korumasına odaklandığını belirtti. Endonezyalı yetkililer, aracın yerel olarak nasıl kullanıldığı ve kötüye kullanımı önlemek için hangi önlemlerin uygulandığı konusunda X ve xAI’den açıklama istediklerini söylediler. Malezya yetkilileri, operatörlerin düzenleyici standartlara uygun etkili kontroller göstermesi halinde erişimin yeniden sağlanabileceğini söyledi.
Bu engellemeler, özellikle deepfake endişeleriyle bağlantılı Grok üzerinde bilinen ilk ulusal düzeyde kısıtlamalar anlamına geliyor. Bu adımlar, üretken yapay zeka araçlarının zararlı veya yanıltıcı içerik oluşturma potansiyeline yönelik daha geniş uluslararası incelemenin ardından geliyor. Birçok ülkedeki düzenleyiciler, mevcut yasaların yasa dışı veya zararlı materyal sağlaması halinde yapay zeka sistemlerine uygulanabileceğini belirtti.
xAI daha önce bazı görüntü üretim özelliklerini sınırlamış ve eleştiriler sonrası erişim ayarlarını değiştirmişti. Malezya ve Endonezya’daki yetkililer, hizmetin normal faaliyete dönebilmesi için daha fazla teknik ve politika değişikliği gerekeceğini belirtti.