Meta, la société mère d’Instagram, a développé un système d’IA capable d’analyser les profils des utilisateurs afin de déterminer si quelqu’un est potentiellement plus jeune que l’âge qu’il ou elle a déclaré. Ce système, connu sous le nom de « classificateur adulte », examine notamment :

•  Abonnés et interactions : Qui suit l’utilisateur et avec qui interagit-il ?
•  Messages d’anniversaire : Des publications comme « joyeux anniversaire » peuvent fournir des indices sur l’âge réel.
•  Données de comportement et d’activité : Les habitudes d’utilisation de l’application peuvent également contribuer à l’estimation de l’âge.

Comptes adolescents

Lorsqu’il suspecte qu’un utilisateur a moins de 18 ans, le système convertit automatiquement son compte en un « compte adolescent » avec des paramètres de confidentialité renforcés et des restrictions concernant le contenu et les messages. Si le système d’IA procède à un changement par erreur, les utilisateurs peuvent contester cette modification en fournissant des informations supplémentaires pour confirmer leur âge réel.

Les comptes adolescents sont spécialement conçus pour les utilisateurs âgés de 13 à 17 ans et incluent différentes fonctionnalités de protection :

•  Paramètres de confidentialité : Les comptes sont privés par défaut, seuls les abonnés approuvés peuvent voir le contenu.
•  Restrictions sur les messages : Les messages provenant d’inconnus sont limités pour éviter les interactions non désirées.
•  Accès restreint aux contenus sensibles : L’accès à des contenus comme des vidéos violentes ou des promotions de procédures esthétiques est limité.
•  Alertes d’utilisation excessive : Les utilisateurs reçoivent une notification s’ils passent plus de 60 minutes par jour sur l’application.
•  Mode « sommeil » : De 22h00 à 07h00, les notifications sont désactivées et des réponses automatiques sont envoyées.

Une plus grande responsabilité pour les plateformes sociales

La décision de recourir à l’IA intervient dans un contexte d’inquiétudes croissantes concernant l’impact des réseaux sociaux sur la santé mentale des jeunes. Les parents, les législateurs et les chercheurs exercent une pression croissante sur les entreprises technologiques afin qu’elles prennent des mesures plus strictes pour protéger les mineurs. Cette nouvelle technologie est une réponse à ces préoccupations et vise à transférer la responsabilité de la vérification de l’âge des parents et des utilisateurs vers la plateforme elle-même.

Les mesures prises par Instagram visent à réduire l’exposition des jeunes à des contenus potentiellement dangereux. Par ailleurs, Instagram a annoncé qu’il commencera bientôt à envoyer des notifications aux parents contenant des informations sur la façon d’aborder avec leurs adolescents l’importance de déclarer leur véritable âge en ligne.