Meta, het moederbedrijf van Instagram, heeft een AI-systeem ontwikkeld dat gebruikersprofielen analyseert om te bepalen of iemand mogelijk jonger is dan die heeft aangegeven. Dit systeem, bekend als de 'adult classifier', onderzoekt onder andere:

•  Volgers en interacties: Wie volgt de gebruiker en met wie interacteert deze?
•  Verjaardagswensen: Berichten zoals 'gelukkige verjaardag' kunnen aanwijzingen geven over de werkelijke leeftijd.
•  Gedrags- en activiteitsgegevens: Patronen in het gebruik van de app kunnen ook bijdragen aan de leeftijdsinschatting.

Teen accounts

Wanneer het systeem vermoedt dat een gebruiker jonger is dan 18 jaar, wordt het account automatisch omgezet naar een 'teen account' met strengere privacy-instellingen en beperkingen op inhoud en berichten. Wanneer het AI-systeem een account foutief verandert, kunnen gebruikers deze wijziging aanpassen door aanvullende informatie te verstrekken om hun werkelijke leeftijd te bevestigen.

Teen accounts zijn speciaal ontworpen voor gebruikers tussen de 13 en 17 jaar en bevatten verschillende beschermende functies:

•  Privacy-instellingen: Accounts zijn standaard privé, zodat alleen goedgekeurde volgers inhoud kunnen zien.
•  Beperkingen op berichten: Berichten van onbekenden zijn beperkt om ongewenste interacties te voorkomen.
•  Beperkte toegang tot gevoelige inhoud: Toegang tot inhoud zoals gewelddadige video's of promoties voor cosmetische ingrepen is beperkt.
•  Waarschuwingen bij overmatig gebruik: Gebruikers ontvangen meldingen als ze meer dan 60 minuten per dag op de app doorbrengen.
•  'Slaapmodus': Van 22.00 uur tot 07.00 uur worden meldingen uitgeschakeld en worden automatische antwoorden verzonden.

Meer verantwoordelijkheid voor sociale media platforms

De beslissing om AI in te zetten komt te midden van toenemende bezorgdheid over de impact van sociale media op de geestelijke gezondheid van jongeren. Ouders, wetgevers en onderzoekers hebben druk uitgeoefend op technologiebedrijven om strengere maatregelen te nemen ter bescherming van minderjarigen. Deze nieuwe technologie is een reactie op die zorgen en een poging om de verantwoordelijkheid voor leeftijdsverificatie te verschuiven van ouders en gebruikers naar het platform zelf.

De maatregelen die Instagram heeft genomen zijn bedoeld om de blootstelling aan potentieel schadelijke inhoud te verminderen. Daarnaast gaat Instagram binnenkort ook meldingen sturen naar ouders met informatie over hoe zij met hun tieners het belang kunnen bespreken van het opgeven van de juiste leeftijd online.