İtalyan bir anne, Meta ve TikTok’a karşı açılan tarihi bir davaya katıldı; platformların öneri algoritmalarının 12 yaşındaki kızını defalarca kendine zarar verme ve depresif içeriklere maruz bıraktığını, ardından kızın intihar ederek öldüğünü iddia etti.
Dava, kuzey İtalya’dan 12 yaşındaki Rossella adlı kızın ebeveynlerinin ölümünden önceki aylarda çevrimiçi aktivitesinin dramatik şekilde değiştiğini söylediğini söylüyor. Aileye göre, sosyal medya platformları depresyon ve duygusal sıkıntıyla ilgili materyal aramaya başladıktan sonra giderek zararlı içerikleri önerdi.
Kızlarının ölümünden sonra ailesi onun sosyal medya kullanımının boyutunu fark etti. Rossella’nın gizli bir Instagram hesabı oluşturduğunu ve farkında olduklarından çok daha fazla çevrimiçi içerik tükettiğini öğrendiler.
Annesi Irene Roggero Ugues, tavsiye sistemlerinin kızının benzer içeriklere ilgi gösterdiğinde ona defalarca benzer içerikleri besleyerek zorluklarını artırdığını iddia ediyor. Aile, algoritma odaklı önerilerin Rossella’nın duygusal zorluklarını zamanla daha da yoğunlaştıran bir geri bildirim döngüsü oluşturduğunu savunuyor.
Dava, İtalya’nın algoritmik öneriler yoluyla reşit olmayanlara verilen iddia edilen zararlar nedeniyle doğrudan büyük sosyal medya şirketlerini hedef alan ilk toplu hukuki davasının bir parçası.
Birçok aile davaya katılarak çocuklar için daha güçlü korumalar, reşit olmayanların sosyal medya platformlarına erişiminde daha sıkı sınırlamalar ve tavsiye sistemlerinin nasıl işlediğine dair daha fazla şeffaflık talep etti.
Meta ve TikTok bu iddiaları şiddetle reddediyor. Her iki şirket de kendine zarar verme, intihar ve diğer zararlı davranışları teşvik eden içerikleri aktif olarak kaldırdıklarını söylüyor. Ayrıca, içerik kısıtlamaları, ebeveyn gözetim araçları ve potansiyel tehlikeli materyallere maruz kalmayı sınırlamaya yönelik sistemler gibi özellikle genç kullanıcılar için tasarlanmış güvenlik önlemlerine de dikkat çekiyorlar.
Meta, ergenlik güvenlik özelliklerine büyük yatırım yaptığını ve ergen ruh sağlığının sosyal medyanın ötesinde birçok faktörden etkilendiğini savundu. TikTok da benzer şekilde, politikalarını ihlal eden içeriklerin büyük çoğunluğunu kaldırdığını ve savunmasız kullanıcıları korumaya yönelik koruma önlemlerini genişletmeye devam ettiğini belirtti.
Dava, Avrupa genelindeki düzenleyicilerin sosyal medya platformlarının çocuklar ve gençleri nasıl etkilediği konusunda daha fazla inceleme yaptığı bir dönemde ortaya çıkıyor.
Hükümetler ve düzenleyiciler, etkileşimi önceliklendiren ve duygusal yüklü içerikleri tekrar tekrar ortaya çıkarabilen öneri algoritmaları konusunda giderek daha fazla endişe duymaya başladılar. Eleştirmenler, bu tür sistemlerin istemeden savunmasız kullanıcıları giderek aşırı materyallere yönlendirebileceğini savunuyor.
Hukuki şikayette ayrıca sosyal medyanın bağımlılık yapıcı doğası konusundaki endişelere de değiniyor. Davacıları destekleyen uzmanlar, beğenmeler, bildirimler ve sonsuz kaydırma gibi özelliklerin, beyinde sürekli ödül tepkilerini tetikleyerek uzun süreli etkileşimi teşvik etmek için tasarlandığını savunuyor.
Ancak bazı psikologlar, sosyal medya ile ergen ruh sağlığı arasındaki ilişki hakkında basit sonuçlar çıkarmaktan kaçınır; bireysel deneyimlerin önemli ölçüde değiştiğini ve daha geniş sosyal, ailevi ve psikolojik faktörlerin de önemli roller oynadığını belirtirler.
Dava, sosyal medya şirketlerinin algoritmik tavsiye sistemleriyle bağlantılı olduğu iddia edilen zararlardan yasal olarak sorumlu tutulup tutulamayacağına dair yakından izlenen bir test haline gelmesi bekleniyor.