ChatGPT proposerait le contrôle parental après la mort d’un ado

OpenAI, la firme à l’origine de ChatGPT, souhaite permettre aux parents de mieux comprendre comment leurs adolescents utilisent le modèle d’IA. Elle a annoncé cette initiative après le suicide d’un ado ayant interagi avec le chatbot.

OpenAI envisage de nouvelles mesures de sécurité et prévoit d’ajouter un contrôle parental à son célèbre modèle d’IA. Voilà ce qu’a annoncé l’entreprise dans un message posté sur son blog. Ces changements interviennent quelques jours seulement après la publication par le New York Times d’un article sur le décès d’Adam Raine, âgé de 16 ans, qui s’est suicidé après des mois de conversations avec le chatbot. Ses parents estiment qu’OpenAI aurait dû en faire plus pour empêcher sa mort et ont intenté une action en justice.

Dans cette affaire, les parents accusent OpenAI du fait que le chatbot a confié à Adam des instructions sur la manière de suicider et l’a maintenu à l’écart des systèmes de soutien existant dans la vie réelle. Selon les parents, le chatbot est conçu pour conserver l’intérêt des utilisateurs et valider leurs réflexions, même si celles-ci sont dangereuses.

Interactions prolongées

ChatGPT intègre déjà de nombreuses mesures pour prévenir ce type de situations, mais, comme le souligne OpenAI, ‘ces protections peuvent parfois être moins fiables lors d’interactions prolongées. A mesure que la discussion s’intensifie, certains aspects de la formation à la sécurité du modèle peuvent se diluer.’

Parmi les nouvelles fonctionnalités envisagées par OpenAI figure notamment l’ajout d’un contact d’urgence joignable d’un simple clic. ChatGPT pourrait éventuellement prendre directement contact avec cette personne ‘dans les cas graves’. L’entreprise indique également préparer une mise à jour de GPT-5 qui permettra au chatbot de désamorcer certaines situations.