Avrupa Birliği Konseyi, yapay zeka sistemlerinin rızasız samimi içerik üretmesini yasaklayacak önerileri kabul etti; bunlar arasında giysileri çıkarmak için görüntüleri dijital olarak değiştirmek için tasarlanmış uygulamalar da var.
Bu önlem, Avrupa Birliği’nin Yapay Zeka Yasası’na yapılan güncellemelerin bir parçası, Dijital Omnibus olarak bilinen daha geniş bir yasama paketi kapsamında. Değişiklikler, blok içinde yapay zeka, siber güvenlik ve veri koruma alanlarında kuralları uyumlu hale getirmeyi amaçlamaktadır.
Öneriye göre, rızasız cinsel veya mahrem içerik üreten yapay zeka sistemleri açıkça yasaklanacak. Aynı hüküm, yapay zekanın çocuk cinsel istismarı materyali üretmek için kullanılmasını da yasaklıyor. Konsey, bu uygulamaların AB yasaları kapsamında yapay zekanın kabul edilemez kullanımları olarak sınıflandırılacağını belirtti.
Güncellenen kurallar ayrıca belirli yapay zeka sistemlerinin sağlayıcıları için gereksinimleri içeriyor. Yüksek riskli yapay zeka araçları geliştiren şirketler, sistemlerini Avrupa veritabanına kaydetmelidir; böylece düzenleyiciler uyumluluğu izleyebilir. Teklif, AB’nin Yapay Zeka Ofisi ve ulusal yetkililerin kuralların uygulanmasındaki sorumluluklarını daha da netleştiriyor.
Zararlı kullanımlara yönelik kısıtlamaların yanı sıra, öneri kişisel verilerin yapay zeka sistemlerinde nasıl işlenebileceğine dair değişiklikler de getiriyor. Bu karar, hassas verilerin kullanımının önyargı tespiti ve düzeltme gibi görevlerde uygulandığında katı bir zorunluluk standardını karşılaması gerekliliğini yeniden tesis eder.
Yasama güncellemesi ayrıca küçük şirketler için düzenleyici yükü azaltmaya yönelik önlemleri de içeriyor. Avrupa Komisyonu’nun önerisine göre, bazı küçük ve orta ölçekli işletmeler, Yapay Zeka Yasası kapsamındaki belirli yükümlülüklerden muaf tutulabilir.
Bu hamle, yasama organları ve düzenleyicilerin yapay zeka araçlarının bireylerin izni olmadan manipüle edilmiş görüntüleri üretmesiyle ilgili daha önce dile getiren endişelerinin ardından geldi. Avrupa Parlamentosu’ndaki önceki görüşmeler, bu tür uygulamaların, özellikle gerçek insanları içeren cinsel veya açık içerik oluşturmak için kullanıldığında temel hakları ihlal edebileceğini vurgulamıştır.
Konsey’in anlaşması, yasama sürecinde bir adımı işaret ediyor. Güncellenmiş hükümler, AB’nin yapay zeka düzenleyici çerçevesine dahil edilecek; bu çerçeve, üye ülkeler arasında yapay zekanın izin verilen ve yasaklanmış kullanım kategorilerini belirliyor.