Cette mesure intervient après que la famille d’Adam Raine, un adolescent de 16 ans, a engagé des poursuites judiciaires contre OpenAI. Selon eux, ChatGPT aurait joué un rôle dans son décès et aurait même contribué à la rédaction de sa lettre d’adieu.

Quelles sont les nouvelles fonctionnalités?

Avec ces nouvelles fonctionnalités, OpenAI souhaite offrir aux parents la possibilité de gérer les droits d’utilisation, l’historique des conversations ainsi que certains paramètres tels que la fonction de « mémoire ». L’IA enverrait automatiquement des alertes en cas de suspicion de détresse émotionnelle. Ces outils de contrôle parental devraient être déployés dans les prochaines semaines, voire d’ici la fin du mois.

En complément de ces mesures techniques, OpenAI souligne qu’il s’agit là d’un élément d’un programme de sécurité plus large. Un comité d’experts a été mis en place pour développer d’autres garanties.

Des critiques venues de plusieurs horizons

Des voix critiques s’élèvent, notamment les avocats représentant la famille Raine, qui jugent ces mesures insuffisantes et réclament le retrait immédiat de ChatGPT du marché. Des organisations comme la NSPCC et la Molly Rose Foundation insistent sur le fait que les systèmes d’intelligence artificielle doivent protéger les utilisateurs vulnérables de manière proactive, et non seulement en réaction à des incidents.

Un mouvement plus large dans le secteur technologique

L’introduction du contrôle parental sur ChatGPT s’inscrit dans une tendance plus large du secteur technologique, où des entreprises comme Meta ou YouTube ont déjà mis en place des mécanismes de sécurité à destination des jeunes, souvent en réponse à des critiques publiques.