Bengio a remis sa démission quelques semaines, après que deux de ses collègues aient été licenciées. Il est le collaborateur AI le plus haut placé à s'en aller, probablement suite à un litige interne portant sur l'indépendance des chercheurs de Google. Samy Bengio travaille depuis quatorze ans déjà chez le géant technologique, plus précisément au sein du département Google Brain en charge de l'apprentissage profond et de l'intelligence artificielle. Google a confirmé son départ.

Diversité

Bengio s'en va au beau milieu d'une controverse persistante dans le département AI de Google. Celle-ci a démarré en décembre, lorsque l'entreprise licencia Timnit Gebru, une éminente chercheuse dans le domaine de l'éthique dans l'AI. Selon Gebru, Google lui avait demandé de ne plus collaborer à une revue exposant le danger des préjugés en matière de traductions automatiques et d'analyse AI de l'usage linguistique. Le type de système donc que Google elle-même utilise dans son moteur de recherche.

Deux mois plus tard, l'une des directrices de l'Ethical AI team, Margaret Mitchell, fut aussi licenciée parce qu'elle aurait abusé de données de l'entreprise. Mitchell en personne déclare avoir appliqué un programme sur ses anciens messages pour savoir si Gebru avait été discriminée par Google.

Ces licenciements ont sérieusement terni l'image de Google, parce qu'ils exposent la tension existant entre l'entreprise Google qui doit surtout engranger du bénéfice, et l'institution de recherche Google. Le géant technologique s'est longtemps positionné comme un environnement favorable pour les chercheurs. Sur son site web, l'entreprise mentionne par exemple que les scientifiques disposent d'une 'réelle liberté' dans leur recherche. Mais il semble donc y avoir une sérieuse limite à cette indépendance et aux objectifs de la recherche qui peut y être effectuée, si celle-ci porte sur de la technologie avec laquelle Google réalise du bénéfice. Or ce sont surtout les collaborateurs éthiques travaillant sur l'AI qui flirtent avec la limite tolérée.

Méfiance

La méfiance des chercheurs est devenue telle que certains d'entre eux se mettent à refuser des milliers de dollars d'investissement de Google, parce qu'ils ne peuvent plus supporter les pratiques du géant technologique.

Toute cette situation a également un impact sur la motivation du personnel de ces équipes. Bengio s'était précédemment déjà exprimé en faveur de Gebru. Après le licenciement de Mitchell, Google a restructuré son équipe AI et en a confié la direction à Marian Croak, vicepresident Engineering de l'entreprise.

Lanceurs d'alertes

Toujours dans le cadre de cette affaire, les actionnaires de la société-mère de Google, Alphabet, commencent à se faire du souci. Trillium Asset Management, l'un des investisseurs d'Alphabet, a entre-temps demandé à Google de déployer une meilleure protection des lanceurs d'alertes. "Nous lisons que nombre de collaborateurs de Google - démissionnaires ou licenciés - évoquent des mesures de représailles, lorsqu'ils expriment leur préoccupation à propos d'effets possibles sur les droits de l'homme de certaines décisions de l'entreprise. Il est par exemple question de racisme et de sexisme systématiques sur le lieu de travail", indique l'investisseur dans une résolution abordée lors de la réunion des actionnaires. Trillium demande que les actionnaires puissent examiner et éventuellement ajuster les règles RH de l'entreprise.

Bengio a remis sa démission quelques semaines, après que deux de ses collègues aient été licenciées. Il est le collaborateur AI le plus haut placé à s'en aller, probablement suite à un litige interne portant sur l'indépendance des chercheurs de Google. Samy Bengio travaille depuis quatorze ans déjà chez le géant technologique, plus précisément au sein du département Google Brain en charge de l'apprentissage profond et de l'intelligence artificielle. Google a confirmé son départ.Bengio s'en va au beau milieu d'une controverse persistante dans le département AI de Google. Celle-ci a démarré en décembre, lorsque l'entreprise licencia Timnit Gebru, une éminente chercheuse dans le domaine de l'éthique dans l'AI. Selon Gebru, Google lui avait demandé de ne plus collaborer à une revue exposant le danger des préjugés en matière de traductions automatiques et d'analyse AI de l'usage linguistique. Le type de système donc que Google elle-même utilise dans son moteur de recherche.Deux mois plus tard, l'une des directrices de l'Ethical AI team, Margaret Mitchell, fut aussi licenciée parce qu'elle aurait abusé de données de l'entreprise. Mitchell en personne déclare avoir appliqué un programme sur ses anciens messages pour savoir si Gebru avait été discriminée par Google.Ces licenciements ont sérieusement terni l'image de Google, parce qu'ils exposent la tension existant entre l'entreprise Google qui doit surtout engranger du bénéfice, et l'institution de recherche Google. Le géant technologique s'est longtemps positionné comme un environnement favorable pour les chercheurs. Sur son site web, l'entreprise mentionne par exemple que les scientifiques disposent d'une 'réelle liberté' dans leur recherche. Mais il semble donc y avoir une sérieuse limite à cette indépendance et aux objectifs de la recherche qui peut y être effectuée, si celle-ci porte sur de la technologie avec laquelle Google réalise du bénéfice. Or ce sont surtout les collaborateurs éthiques travaillant sur l'AI qui flirtent avec la limite tolérée.La méfiance des chercheurs est devenue telle que certains d'entre eux se mettent à refuser des milliers de dollars d'investissement de Google, parce qu'ils ne peuvent plus supporter les pratiques du géant technologique.Toute cette situation a également un impact sur la motivation du personnel de ces équipes. Bengio s'était précédemment déjà exprimé en faveur de Gebru. Après le licenciement de Mitchell, Google a restructuré son équipe AI et en a confié la direction à Marian Croak, vicepresident Engineering de l'entreprise.Toujours dans le cadre de cette affaire, les actionnaires de la société-mère de Google, Alphabet, commencent à se faire du souci. Trillium Asset Management, l'un des investisseurs d'Alphabet, a entre-temps demandé à Google de déployer une meilleure protection des lanceurs d'alertes. "Nous lisons que nombre de collaborateurs de Google - démissionnaires ou licenciés - évoquent des mesures de représailles, lorsqu'ils expriment leur préoccupation à propos d'effets possibles sur les droits de l'homme de certaines décisions de l'entreprise. Il est par exemple question de racisme et de sexisme systématiques sur le lieu de travail", indique l'investisseur dans une résolution abordée lors de la réunion des actionnaires. Trillium demande que les actionnaires puissent examiner et éventuellement ajuster les règles RH de l'entreprise.