Instagram van Meta Platforms Inc zei dat het ouders of voogden zal gaan informeren wanneer tienergebruikers herhaaldelijk binnen korte tijd zoeken naar termen gerelateerd aan zelfmoord of zelfbeschadiging. Het bedrijf zei dat de waarschuwingen alleen van toepassing zijn op ouders die zich hebben ingeschreven voor de optionele ouderlijke toezichttools van Instagram. Berichten worden per e-mail, sms, WhatsApp of via een melding in de app verstuurd, afhankelijk van de contactgegevens die ouders opgeven.
Instagram zei dat de functie aanvankelijk beschikbaar zal zijn in de Verenigde Staten, het Verenigd Koninkrijk, Australië en Canada, met een bredere uitrol naar extra landen gepland later in 2026. Instagram blokkeert al content die het identificeert als gerelateerd aan zelfmoord of zelfbeschadiging in zoekresultaten van accounts die als tieners zijn aangewezen en verwijst deze gebruikers naar online bronnen die zijn ontworpen voor mentale gezondheidszorg.
Meta zei dat de nieuwe meldingen bedoeld zijn om ouders te informeren wanneer een tiener meerdere van zulke zoekopdrachten snel achter elkaar uitvoert. Het bedrijf zei dat het een “passende drempel” heeft gekozen om ouders niet te informeren over geïsoleerde of per ongeluk zoekopdrachten, maar zal hen informeren wanneer herhaalde zoekacties plaatsvinden over een beperkte tijd. Instagram zei dat de meldingen links zullen bevatten naar ondersteunende bronnen, die suggesties geven voor ouders om gevoelige onderwerpen over zelfmoord en zelfbeschadiging met hun kinderen te bespreken.
Het bedrijf zei ook te werken aan tools die ouders waarschuwen als tieners proberen met de kunstmatige intelligentie te werken om vragen te stellen over zelfmoord en zelfbeschadiging. Meta gaf geen specifieke details over het aantal zoekopdrachten of de exacte criteria die een oudermelding kunnen activeren.
Het initiatief maakt deel uit van Instagram’s bredere inspanningen om te onderzoeken hoe gebruikers omgaan met content gerelateerd aan zelfmoord en zelfbeschadiging op zijn platforms. Instagram zei dat het al geautomatiseerde systemen gebruikt om zelfmoord- of zelfbeschadigingscontent uit zoekresultaten te blokkeren en om veiligheidsbronnen te tonen aan gebruikers die dergelijk materiaal tegenkomen. Het bedrijf zei dat deze systemen werken ongeacht of ouderlijke supervisietools worden gebruikt, en dat de nieuwe meldingen bedoeld zijn om extra zichtbaarheid te bieden aan ouders die ervoor kiezen ze te ontvangen.
Instagram zei dat de ondersteuningsbronnen links bevatten naar organisaties die advies geven over het praten over emotionele stress en crisissituaties. Het bedrijf zei dat het maatregelen zal blijven ontwikkelen die jonge gebruikers veilig houden tijdens het gebruik van zijn diensten.
De aankondiging van de waarschuwingen door Meta komt terwijl het bedrijf juridische uitdagingen in de Verenigde Staten krijgt vanwege de omgang met jeugd en schadelijke inhoud. Rechtszaken tegen Meta in Amerikaanse rechtbanken stellen dat de sociale mediadiensten van het bedrijf, waaronder Instagram, zo zijn ontworpen dat jongeren kunnen schaden door verslaving te bevorderen of minderjarigen niet te beschermen tegen inhoud die hun welzijn negatief kan beïnvloeden.
Meta heeft in juridische documenten en publieke verklaringen gereageerd door te zeggen dat onderzoek geen sluitende verbanden aantoont tussen het gebruik van sociale media en schade aan de geestelijke gezondheid van jongeren. Het bedrijf zei dat het zich blijft richten op het toepassen van onderzoek en het ontwikkelen van tools die volgens hen bedoeld zijn om minderjarigen op zijn platforms te beschermen.
Instagram zei dat het van plan is zijn beleid en tools te actualiseren op basis van feedback en zich ontwikkelend onderzoek, maar gaf geen specifieke tijdlijnen voor de bredere wereldwijde uitrol of de release van extra waarschuwingsfuncties met betrekking tot interacties met kunstmatige intelligentie. Het bedrijf zei dat het zal monitoren hoe de moedernotificatiefunctie presteert in de beginmarkten en mogelijk de criteria die waarschuwingen triggeren verfijnen. Meta zei dat het zal blijven samenwerken met externe experts om benaderingen voor gebruikersveiligheid te ontwikkelen, met name voor tieneraccounts