Apple ve Google, uygulama mağazalarının mevcut platform politikalarının bu tür içerikleri yasaklamasına rağmen, giysisiz kişileri gösteren değiştirilmiş görseller üretebilen uygulamaları barındırmaya devam ettiğini ortaya koydukları haberlerin ardından inceleme altında.
Onların Tech Transparency Project yaptığı bir soruşturma, her iki platformda da onlarca böyle uygulama tespit etti. Rapor, Google Play’de 55 ve Apple’ın App Store’unda 47 uygulama bulunuyor ve kadınların fotoğraflarını kısmen veya tamamen çıplak sonuçlar çıkarabilen dijital olarak değiştirebiliyor.
Bulgulara göre, bu uygulamalar toplamda dünya çapında 705 milyondan fazla kez indirilmiş ve yaklaşık 117 milyon dolar gelir elde etmiştir. Rapor, her iki şirketin de bu gelirden pay aldığını uygulama mağazası ücretleri aracılığıyla aldığını belirtiyor.
Soruşturma ayrıca, birçok uygulamanın şirketlerin kendi kurallarıyla çeliştiğini de ortaya koydu. Google’ın politikaları, çıplaklığı tasvir eden veya simüle eden veya bireyleri nesneleştiren uygulamaları yasak, Apple’ın yönergeleri saldırgan veya açık içerik üreten uygulamaları yasaklamaktadır. Bu politikalara rağmen, uygulamalar indirilebilirdi ve bazı durumlarda atanan yaş derecelerine göre genç kullanıcılar için erişilebilirdi.
Uygulama mağazalarındaki arama ve tavsiye sistemleri de görünürlükte önemli bir faktör olarak gösterildi. Rapor, “nudify” gibi arama terimlerinin tanıtılan uygulamaları ve otomatik tamamlama önerilerini geri getirdiğini ortaya koydu; bu öneriler kullanıcıları bu araçlara yönlendirdi.
Soruşturmanın bir parçası olarak yapılan testler, birkaç uygulamanın temel istemler ve ücretsiz özellikler kullanarak değiştirilmiş görüntüler oluşturabildiğini gösterdi. Bazı durumlarda, uygulamalar bireyleri çeşitli soyunma hallerinde gösteren içerikleri kısıtlamasız olarak üretti.
Ayrı bir raporlama, sorunun bireysel uygulamaların ötesine geçtiğini ve yapay zeka tarafından üretilen içeriğin moderatörlüğündeki daha geniş zorlukları yansıttığını gösteriyor. Otomatik görüntü düzenleme teknolojilerinin kullanımıyla birlikte, onaysız değiştirilmiş görüntüler oluşturmak için üretken araçların kullanımı artmıştır.
Bulguların yayınlanmasının ardından, her iki şirket de bazı tanımlanan uygulamaları kaldırmak için adımlar attı. Apple bazı uygulamaları kaldırırken, Google birkaç uygulamasını askıya aldı, ancak bazıları ilk uygulamaların ardından erişilebilir kaldı.
Rapor, bu uygulamaların varlığının özellikle yapay zeka tabanlı araçların gelişmesiyle uygulama inceleme süreçleri ve uygulama sistemlerindeki boşlukları ortaya koyduğunu belirtiyor. Ayrıca, bazı uygulamaların her iki platformda aynı anda erişilebilir olduğu ve bu da dağıtım kanallarının örtüştüğünü gösteriyor.
Şirketler, önceki politikalarında kullanıcı güvenliğini sağlamak ve zararlı içerikleri sınırlamayı hedeflerken, platformlarına gönderilen başvuruları incelemeye devam ettiklerini belirtti.