KOSA: pourquoi cette nouvelle loi américaine sur les enfants en ligne est controversée
Cette semaine, le sénat américain a approuvé deux nouvelles lois destinées à protéger les enfants et les adolescents en ligne. L’une d’elles passe très mal auprès des défenseurs du respect de la vie privée, entre autres, et peut également avoir des conséquences sur internet.
Les deux projets de loi visent à réglementer la façon dont les entreprises technologiques et les agences de publicité traitent les adolescents et les enfants en ligne. Et bien que le sénat les ait approuvées à une large majorité (91 contre 3), ces propositions ne sont pas exemptes de controverses.
COPPA 2 et KOSA
La première des deux, la loi sur la protection de la vie privée en ligne des enfants et des adolescents, alias la Children and Teens’ Online Privacy Protection Act (COPPA 2), est considérée comme une mise à jour de la réglementation COPPA existante. Elle stipule que les entreprises technologiques ne sont pas autorisées à conserver des informations personnelles sur les enfants. La loi originale de 1998 s’appliquait aux enfants de moins de 12 ans, un âge qui a maintenant été porté à 17 ans. Les données que les entreprises ne sont pas autorisées à collecter, ont également été étendues aux données biométriques.
La deuxième loi est beaucoup plus controversée, bien qu’elle ait été rédigée avec les mêmes bonnes intentions. La loi sur la sécurité en ligne des enfants, alias la Kids Online Safety Act (KOSA), devrait tenter de protéger la santé mentale des enfants en ligne. Et c’est beaucoup plus difficile à mettre en place que ‘d’arrêter de collecter des données’. La loi stipule, entre autres, que les entreprises technologiques doivent agir en ‘bon père de famille’ pour s’assurer que les enfants et les adolescents ne soient pas confrontés à des contenus dangereux.
C’est ainsi qu’on sait depuis assez longtemps déjà que les réseaux sociaux tels qu’Instagram peuvent nuire à l’image de soi des adolescents, ce à quoi ces réseaux semblent être très lents à réagir. La loi est donc introduite à la demande de groupes de parents qui ont perdu leur enfant par suicide.
Protection ou censure
Ce n’est donc pas une mauvaise idée en soi que d’essayer de réglementer la situation, mais la question est de savoir ‘comment’. Des experts technologiques sont particulièrement préoccupés par les effets possibles de la loi, car elle peut inciter les entreprises technologiques à censurer à outrance.
Si la loi est votée, le régulateur américain FTC (Federal Trade Commission) devra décider si les entreprises en font assez pour protéger les adolescents, mais ce qui est considéré comme inapproprié varie considérablement selon la culture et la région. Nous l’avions observé il y a des années avec Facebook, qui avait bloqué des images de tableaux de Rubens comme étant ‘pornographiques’ dans notre partie du monde, parce qu’elles contenaient des fesses nues. On pourrait immédiatement imaginer que dans l’Amérique d’aujourd’hui, une entreprise technologique trop zélée pourrait également bloquer toutes les informations sur les LGBTQI+, afin de ne pas être poursuivie. La loi pourrait également être utilisée par les politiciens pour appliquer leur propre forme de censure. Dans les états les plus conservateurs, où l’avortement est déjà interdit, on pourrait, par exemple, considérer les informations sur les contraceptifs et la santé sexuelle comme ‘inappropriées’ et les faire bloquer.
Opposition
Le projet de loi KOSA a entre-temps été discuté dans diverses itérations depuis plusieurs années déjà. Maintenant qu’il a été approuvé par le sénat, il se rapproche un peu plus encore de sa réalisation. Il doit certes encore être adopté par la chambre des représentants, qui dispose déjà de sa propre version du projet de loi. Il est donc encore possible qu’une autre version soit approuvée. Entre-temps, les militants tentent de faire passer des ajustements.
L’Electronic Frontier Foundation, entre autres, qui milite en faveur du respect de la vie privée et de la liberté d’expression, s’est fermement prononcée contre la loi ‘parce que nous ne pouvons pas laisser les politiciens et les bureaucrates décider de ce que nous lisons sur internet’. Le groupe craint notamment que les messages traitant de santé mentale ou de toxicomanie soient rejetés comme faisant l’apologie de ce genre de comportement. De ce fait, ils risquent d’être bloqués, et il sera alors beaucoup plus malaisé de trouver de l’aide, surtout pour les adolescents.
L’EFF souligne également dans son argumentation que les adolescents (et les adultes) étaient déjà aux prises avec des problèmes de santé mentale avant l’avènement d’internet, mais le fait est que les médias sociaux peuvent tout amplifier. Internet ouvre le monde. Cela permet plus que jamais aux gens de trouver une communauté d’autres personnes qui ont des intérêts similaires, mais cela signifie également qu’un intimidateur peut entraîner des centaines de personnes à ridiculiser quelqu’un.
Tout, rien ou autre chose encore
On peut ordonner à une entreprise technologique d’arrêter un ‘contenu mal intentionné’, mais il y a peu de chances que cela fonctionne réellement. C’est ainsi que la Digital Services Act, la loi européenne sur les technologies, comporte un règlement qui oblige les entreprises technologiques à mettre fin à la désinformation. En principe, c’est quelque peu plus précis (à savoir bloquer des choses qui sont fausses ou des propos haineux) que ‘protéger les enfants’, mais cela n’empêche certainement pas les gens de publier des absurdités dangereuses, pouvant entraîner des troubles.
Les entreprises technologiques ont, il est vrai, des milliards de messages à modérer chaque jour. Même si elles savaient exactement quel contenu est ‘bon’ ou ‘mauvais’ pour le public cible, il leur en coûterait beaucoup d’argent pour identifier et supprimer les ‘mauvais’ messages au moment opportun. Quelque chose dont les réseaux sociaux s’occupent généralement soit en n’effectuant pas de modération, soit en misant sur l’automatisation. Si la loi est adoptée, reste à espérer que ChatGPT (ou Llama, ou autre) puisse faire la différence entre l’histoire de quelqu’un qui parle de son image de soi pour aider les autres, et quelqu’un qui publie des pièges à clics pour harceler un adolescent.
Vous avez repéré une erreur ou disposez de plus d’infos? Signalez-le ici