Deze maatregel komt nadat de familie van de 16-jarige Adam Raine juridische stappen ondernam tegen OpenAI. Zij beweren dat ChatGPT een rol heeft gespeeld in zijn overlijden en zelfs hulp heeft verstrekt bij het schrijven van een afscheidsbrief.

Wat houden de nieuwe functies in?

Met de nieuwe functies wil OpenAI ouders de mogelijkheid bieden om gebruiksrechten, chatgeschiedenis en bepaalde instellingen zoals ‘memory’ te beheren. De AI zou automatisch meldingen uitsturen bij vermoedens van emotionele nood. Deze ouderlijk toezicht-functies zouden binnen enkele weken of binnen de maand uitgerold zullen worden. 

Naast deze technische ingrepen benadrukte OpenAI dat dit onderdeel is van een breder veiligheidsprogramma. Er is een raad van deskundigen samengesteld om verdere waarborgen te ontwikkelen.

Kritiek vanuit verschillende hoeken

Critici, waaronder advocaten die namens de familie Raine optreden, menen dat deze maatregelen onvoldoende zijn en pleiten ervoor dat ChatGPT onmiddellijk van de markt gehaald wordt. Organisaties zoals NSPCC en de Molly Rose Foundation benadrukken dat AI-systemen proactief en niet pas reactief kwetsbare gebruikers moeten beschermen.

Een bredere beweging binnen de techsector

De invoering van ouderlijk toezicht bij ChatGPT weerspiegelt bredere trends in de tech-sector, waarin bedrijven zoals Meta en YouTube al veiligheidsmechanismen voor jongeren invoerden na publieke kritiek.