La Californie a promulgué lundi une législation régulant pour la première fois aux États-Unis les agents conversationnels, ou ‘chatbots’, d’intelligence artificielle (IA), après une série de suicides d’adolescents ayant noué des relations fictives intimes avec ces outils, a annoncé le gouverneur Gavin Newsom.
Le gouverneur démocrate a signé lundi une série de lois qui imposent, entre autres, de vérifier l’âge des utilisateurs, d’afficher régulièrement des messages d’avertissement et de mettre en place des protocoles de prévention du suicide. Pour les mineurs, un message doit également apparaître toutes les trois heures pour rappeler que leur interlocuteur est une machine.
‘Nous avons vu des exemples vraiment horribles et tragiques de jeunes qui ont été victimes de technologies peu régulées, et nous ne resterons pas les bras croisés pendant que des entreprises exercent sans limites et sans rendre de comptes,’ a déclaré Gavin Newson dans un communiqué publié après la promulgation de ce paquet législatif.
L’État intervient malgré l’opposition fédérale
Cette dernière a été l’une des premières poursuivie en justice par les parents d’un adolescent américain de 14 ans, qui s’est tué en 2024 après avoir noué une relation amoureuse avec un chatbot et soupçonné de l’avoir renforcé dans ses pensées suicidaires. ‘Nous pouvons continuer à être leader dans le domaine de l’IA (…) mais nous devons agir de façon responsable, en protégeant nos enfants tout au long du chemin,’ a ajouté le gouverneur de Californie, qui abrite la Silicon Valley et les principaux géants du développement de modèles d’IA comme OpenAI (ChatGPT), Google (Gemini) ou xAI (Grok).
Aux États-Unis, il n’y a pas de règles nationales pour limiter les risques liés à l’IA, et la Maison-Blanche essaie d’empêcher les États de produire leurs propres règles.