Ces nouvelles règles font suite à la publication d’un rapport d’investigation par l’agence de presse Reuters, qui a mis au jour des documents internes de Meta. On y apprend que certains chatbots ont tenu des propos intimes, voire sensuels, à des jeunes utilisateurs. Dans des conversations tests menées avec des adolescents de 15 ans, des chercheurs ont relevé des phrases telles que : « Your youthful form is a work of art » (« Ton corps juvénile est une œuvre d’art ») ou encore « Every inch of you is a masterpiece – a treasure I cherish deeply » (« Chaque centimètre de toi est un chef-d’œuvre – un trésor que je chéris profondément »).

Meta affirme que ces messages allaient à l’encontre de ses politiques officielles, mais reconnaît qu’il était techniquement possible pour ses bots de produire ce type de contenu pendant plusieurs années. L’entreprise a désormais décidé de rendre ces personnages virtuels temporairement inaccessibles aux utilisateurs mineurs.
 

Une inquiétude croissante en Belgique autour de l’IA et des jeunes

En Belgique aussi, l’inquiétude monte concernant l’impact de l’intelligence artificielle sur les jeunes. Les commissaires aux droits de l’enfant et les psychologues tirent la sonnette d’alarme depuis quelque temps déjà, face aux risques liés aux contenus générés par des algorithmes. Selon des experts, les chatbots peuvent créer un faux sentiment de confiance, rendant les jeunes plus vulnérables à l’influence.

Même si la fonctionnalité de chatbot de Meta n’est pour l’instant testée que dans quelques pays, les pratiques révélées sont jugées préoccupantes également pour les régulateurs européens. La Commission européenne travaille actuellement sur une version révisée de l’AI Act, dans laquelle des règles plus strictes sont prévues pour les mineurs.

Pression politique aux États-Unis : Meta doit faire marche arrière

Aux États-Unis, l’enquête de Reuters a provoqué l’indignation des deux côtés de l’échiquier politique. Le sénateur républicain Josh Hawley réclame une enquête officielle pour déterminer qui a validé les premières directives des chatbots. Par ailleurs, un groupe de 44 procureurs généraux d’États américains demande des explications sur les processus internes de Meta.

Meta reconnaît désormais que ses lignes directrices actuelles ne garantissaient pas une protection suffisante. L’entreprise affirme prendre les critiques au sérieux et promet d’agir immédiatement pour renforcer la sécurité des jeunes utilisateurs. Les adolescents qui abordent des sujets sensibles avec un chatbot seront désormais redirigés vers des ressources professionnelles d’aide.

Pour l’instant, il s’agit de mesures temporaires, mais Meta travaille également sur un encadrement permanent destiné à offrir un environnement plus sûr aux jeunes. Ces nouvelles directives devraient être mises en place dans les mois à venir, en concertation avec des experts et les autorités de régulation.