Les soucis liés à l'utilisation d'algorithmes et de l'AI dans la recherche de nouveaux collaborateurs ont trouvé un écho chez les politiciens, qui ont introduit une première proposition de loi dans la ville de New York.

Les logiciels d'offres d'emploi représentent un marché en croissance. Nombre d'entreprises proposent des algorithmes pour aider le département des ressources humaines (RH) à classer automatiquement les CV et à analyser les images ou vidéos des candidats. Et ce, dans le but de faciliter le travail du département du personnel. Reste cependant à savoir si ces algorithmes discriminent certains groupes de la population.

Préjugés intégrés

Selon des experts, ce type d'intelligence artificielle (AI) est capable de répliquer des préjugés existants, voire de les renforcer, parce que les algorithmes sont souvent formés à partir de bases de données dans lesquelles des pans entiers de la population sont parfois sous-représentés. Pensez par exemple à l'outil de CV aujourd'hui mal famé d'Amazon, qui refusait automatiquement aux femmes d'accéder à des fonctions techniques, tout simplement parce que dans le passé, l'entreprise ne recrutait que peu de femmes. Le problème posé par cet outil fut certes découvert, avant qu'il ne soit effectivement utilisé dans la pratique, mais pareil incident démontre bien que des 'bugs' dans des logiciels peuvent avoir de lourdes conséquences.

Aux Etats-Unis depuis 1964, il est interdit de se livrer à de la discrimination sur base du genre ou de la race au niveau de la recherche de candidats à des places vacantes (une loi similaire existe aussi dans notre pays). Grâce à une nouvelle proposition de loi, l'administration de New York City entend à présent aussi empêcher toute discrimination dans ce type d'algorithmes. Si la loi est votée, les entreprises devront annoncer publiquement qu'elles utilisent un logiciel pour les aider dans leur choix de candidats. Les éditeurs de logiciels eux-mêmes devront exécuter chaque année un audit destiné à examiner si leur outil se livre à de la discrimination.

Les soucis liés à l'utilisation d'algorithmes et de l'AI dans la recherche de nouveaux collaborateurs ont trouvé un écho chez les politiciens, qui ont introduit une première proposition de loi dans la ville de New York.Les logiciels d'offres d'emploi représentent un marché en croissance. Nombre d'entreprises proposent des algorithmes pour aider le département des ressources humaines (RH) à classer automatiquement les CV et à analyser les images ou vidéos des candidats. Et ce, dans le but de faciliter le travail du département du personnel. Reste cependant à savoir si ces algorithmes discriminent certains groupes de la population.Préjugés intégrésSelon des experts, ce type d'intelligence artificielle (AI) est capable de répliquer des préjugés existants, voire de les renforcer, parce que les algorithmes sont souvent formés à partir de bases de données dans lesquelles des pans entiers de la population sont parfois sous-représentés. Pensez par exemple à l'outil de CV aujourd'hui mal famé d'Amazon, qui refusait automatiquement aux femmes d'accéder à des fonctions techniques, tout simplement parce que dans le passé, l'entreprise ne recrutait que peu de femmes. Le problème posé par cet outil fut certes découvert, avant qu'il ne soit effectivement utilisé dans la pratique, mais pareil incident démontre bien que des 'bugs' dans des logiciels peuvent avoir de lourdes conséquences.Aux Etats-Unis depuis 1964, il est interdit de se livrer à de la discrimination sur base du genre ou de la race au niveau de la recherche de candidats à des places vacantes (une loi similaire existe aussi dans notre pays). Grâce à une nouvelle proposition de loi, l'administration de New York City entend à présent aussi empêcher toute discrimination dans ce type d'algorithmes. Si la loi est votée, les entreprises devront annoncer publiquement qu'elles utilisent un logiciel pour les aider dans leur choix de candidats. Les éditeurs de logiciels eux-mêmes devront exécuter chaque année un audit destiné à examiner si leur outil se livre à de la discrimination.