Meta, Facebook ve Instagram’da reşit olmayan kullanıcıları tanımlamak için yapay zeka kullanımını genişletiyor; fiziksel özellikleri, davranış kalıplarını ve hesap aktivitelerini analiz ederek kullanıcının yaşını tahmin eden sistemler sunuyor. Bu hamle, şirketin yaş doğrulamasını güçlendirme ve çevrimiçi çocuk güvenliği konusunda artan düzenleyici baskıya uyum sağlama yönündeki daha geniş bir girişiminin parçası.
Meta’ya göre, yeni yapay zeka sistemleri, hesap oluştururken sahte doğum tarihleri girmiş olabilecek kullanıcıları tespit etmek için tasarlandı. Şirket, teknolojinin profil aktivitesi, etkileşimler, içerik etkileşimi ve yüklenen medyadan gelen görsel ipuçları gibi sinyalleri inceleyerek birinin muhtemelen 13 yaşından küçük mi yoksa 18 yaşından küçük mi olduğunu tahmin ettiğini söylüyor.
Dağıtımın önemli dikkat çeken yönlerinden biri, Meta’nın vücut ve yüz özellikleriyle, boy ve kemik yapısı gibi görsel analizleri kullanması. Meta, teknolojinin yüz tanıma olmadığını çünkü bireyleri tanımlamak için tasarlanmadığını iddia ediyor. Bunun yerine, şirket bunu kimliği doğrulamak yerine yaklaşık yaş aralıklarını tahmin eden bir yaş tahmini teknolojisi olarak tanımlıyor.
Sistem bir hesabı potansiyel olarak reşit olmayan olarak işaretlerse, Meta profile kısıtlamalar koyabilir veya kullanıcının tam erişimi geri kazanmadan önce ek doğrulama adımlarını tamamlamasını talep edebilir.
Bu uygulama, hükümetler ve düzenleyicilerin çevrimiçi olarak reşit olmayanlar için daha güçlü korumalar talep ettiği artan baskının ortasında gerçekleşiyor. Meta, hem Avrupa hem de Amerika Birleşik Devletleri’nde çocukların platformun yaş sınırlarını sahte doğum günlerini girerek kolayca aşabileceği endişeleri nedeniyle eleştirilere maruz kaldı. Yasama organları, sosyal medya şirketlerinin kullanıcı yaşını doğrulama ve zararlı içerik maruziyetini sınırlama konusunda daha fazla sorumluluk taşıması gerektiğini giderek daha fazla savundu.
Meta, yapay zeka tabanlı tespit yapmanın gerekli olduğunu çünkü geleneksel yaş kapılarının etkisiz olduğunu söylüyor. Ancak, gizlilik savunucuları ve dijital haklar grupları, şirketin son yaklaşımının biyometrik analiz, gözetim ve veri toplama üzerine yeni bir endişe seti getirdiğini uyarıyor.
Eleştirmenler, yüz yapısı, vücut oranları ve davranış kalıplarını ölçekli ölçekte analiz etmenin, sosyal medya platformlarında müdahaleci izleme uygulamalarını normalleştirebileceğini savunuyor. Meta, sistemin kullanıcıları bireysel olarak tanımlamadığını söylese de, gizlilik uzmanları yaş tahmininin hâlâ kullanıcıların yüklediği fotoğraf ve videolardan elde edilen hassas biyometrik verilere dayandığını belirtiyor.
Bazı araştırmacular, bu teknolojiyi, görünüşe dayalı olarak kullanıcılar hakkında varsayımlar yapan otomatik profilleme sistemleriyle karşılaştırdı. Çevrimiçi eleştirmenler bu yaklaşımı “yapay zeka frenolojisi” olarak tanımladı ve bu tür sistemlerin yüz özellikleri, etnik köken, ışık koşulları, kamera kalitesi veya cinsiyet sunumuna bağlı olarak yanlış veya önyargılı sonuçlar verebileceği konusunda uyarıda bulundu.
Ayrıca yanlış pozitiflerle ilgili endişeler de var. Daha genç görünümlü yetişkinler hesap kısıtlamaları veya doğrulama talepleriyle karşılaşabilirken, bazı reşit olmayanlar makyaj, değiştirilmiş aydınlatma, VPN veya manipüle edilmiş fotoğraflar kullanarak sistemi atlayabilir.
Akademik araştırmalar, birçok yapay zeka yaş tahmini aracının nispeten kolayca kandırılabileceğini zaten göstermiştir. Bazı çalışmalar, sahte yüz kılları, gözlük veya ince görüntü manipülasyonu gibi kozmetik numaraların doğruluk oranlarını önemli ölçüde azaltabileceğini ortaya koymuştur.
Gizlilik savunucuları ayrıca Meta’nın yaş tahmini verilerini ne kadar süre saklayabileceğini ve temel sistemlerin sonunda daha geniş biyometrik analiz araçlarına yayılıp yayılmayacağını sorgulamaktadır. Şirket, yapay zekasının yalnızca güvenlik amaçları için kullanıldığını söylüyor, ancak eleştirmenler, büyük ölçekli biyometrik altyapı kurulduğunda gelecekteki kullanım durumlarının sınırlandırılmasının zor hale gelebileceği konusunda uyarıyor.
Bu tartışma, teknoloji sektörünün karşı karşıya olduğu daha geniş bir zorluğu yansıtıyor. Hükümetler daha güçlü yaş doğrulama sistemleri talep ederken, kullanıcılar ve gizlilik grupları platformlara daha hassas kişisel verileri verme konusunda temkinli kalıyor. Şirketler, kendilerini giderek reşit olmayanları tanımlama için düzenleyici baskı ile genişleyen gözetim teknolojileri konusundaki kamu endişesi arasında sıkışmış buluyor.
Meta, yapay zeka tabanlı yaş tahmininin şu anda milyarlarca hesabda yaş kısıtlamalarını uygulamanın tek ölçeklenebilir yollarından biri olduğunu savunuyor. Ancak uygulamaya yönelik tepkiler, çevrimiçi çocuk güvenliği önlemlerinin gizlilik, rıza ve biyometrik izleme sorularıyla giderek daha fazla çarpıştığını ortaya koyuyor.