Ma fille et mon fils face aux préjugés : l’intelligence artificielle au service de l’équité

En tant que mère d’une fille d’un an et d’un fils de quatre ans, j’attache de l’importance à ce que mes enfants aient tous deux les mêmes opportunités et grandissent dans un environnement égalitaire. Ils sont d’ailleurs éduqués dans ce sens à la maison. Mais malgré ces efforts et son jeune âge, mon petit garçon a déjà accumulé pas mal de préjugés. C’est la preuve que les stéréotypes fleurissent dans notre société, et que nous n’en sommes souvent pas conscients. Heureusement, l’IA peut contribuer à résoudre ce problème.

« Seuls les garçons peuvent faire ça, pas les filles. » J’ai été récemment surprise d’entendre ces mots sortir de la bouche de mon fils. À la maison, personne ne dit de telles choses, mais il associe néanmoins certaines tâches aux garçons, et rien qu’à eux. En dépit de nos efforts, il adopte à son insu les préjugés tenaces qui persistent depuis des siècles dans notre société.

Comment faire pour corriger cette iniquité ? La réponse peut paraître surprenante : avec l’IA. Alors que l’intelligence artificielle elle-même est souvent empreinte de préjugés, cette technologie détient justement la clé d’une plus grande équité. D’abord parce que l’IA peut contribuer à rendre tangibles les préjugés à l’œuvre dans la société.

L’IA révèle les inégalités

Plusieurs systèmes d’IA ont déjà montré qu’ils peuvent reproduire les inégalités. Par exemple, un outil de recrutement qui, à partir de données historiques, pénalise les candidatures féminines. Ou bien des modèles dans le secteur médical qui débouchent sur des différences de traitement entre les femmes et les hommes. Au lieu de pointer l’IA du doigt et d’en conclure qu’il ne faut pas utiliser ces modèles, nous devrions y voir la confirmation que notre société est intrinsèquement et spontanément inégalitaire.

L’IA n’est pas une solution miracle, mais un puissant levier pour mettre en lumière les inégalités. En langage technique, on parle de déconstruction des stéréotypes : après les avoir identifiés, on peut les rectifier grâce à des données synthétiques. Ces données simulent certaines caractéristiques et contribuent ainsi à combler le manque d’informations sur des groupes minoritaires. Les femmes qui ne sont pas représentées de manière adéquate dans les données historiques voient alors leur présence renforcée, de sorte que les systèmes d’IA intégreront plus d’égalité dans leur logique décisionnelle.

En fin de compte, il est plus facile d’éliminer les préjugés dans la technologie que dans la société, car il est possible de mesurer et d’ajuster l’iniquité dans la première. En revanche, ce processus prend beaucoup plus de temps dans la société.

D’infirmière à directrice de la création

Les algorithmes ont également progressé afin d’éviter les biais. Ils intègrent souvent des indicateurs définissant l’équité, qui sont pris en compte lors de l’apprentissage. Ainsi, les grands modèles de langage (LLM) évaluent des facteurs tels que le genre ou l’origine de manière plus juste.

Le meilleur exemple est ChatGPT. Il y a exactement un an, pour un article d’opinion, j’ai demandé à l’outil d’OpenAI quelle serait une bonne profession pour un garçon. Le modèle a proposé « développeur de logiciels », « technicien en bâtiment », « coach sportif », « pompier » et « dessinateur technique ». En ce qui concerne les filles, ChatGPT m’a conseillé « psychologue », « infirmière », « institutrice », « graphiste » et « environnementaliste ». Trois métiers technologiques pour les garçons, contre zéro pour les filles…

Si l’on pose la même question à ChatGPT aujourd’hui, les résultats sont pour le moins surprenants. D’après le modèle, les filles peuvent être « data scientist », « chercheuse », « directrice de la création », « enseignante » et « sociologue ». Chose amusante, la graphiste a été promue au poste de directrice de la création. ChatGPT ajoute que cette liste ne devrait pas être différente pour les garçons. Mais si l’on insiste, l’option « infirmière » finit par apparaître, aux côtés de « journaliste », « développeuse logiciel », « spécialiste marketing » et « ingénieure ».

Ce petit test prouve que le travail acharné porte ses fruits et que l’IA est sur la bonne voie pour éliminer les inégalités de notre société. Je me réjouis donc de constater que ma fille aura bientôt plus d’opportunités que les générations de femmes qui l’ont précédée. Tout simplement parce que l’IA va aider à voir et à corriger les angles morts de la société.