Des utilisateurs de Twitter ont découvert un étonnant problème au niveau de la découpe automatique de photos sur le réseau social: celui consistant à sélectionner nettement plus souvent des visages de personnes blanches plutôt que ceux de personnes de couleur. Le problème semble être dû à un algorithme qui doit déterminer automatiquement où se trouve le focus d'une photo. Lorsqu'on publie une photo dans un tweet, elle est automatiquement découpée au format correct. On peut alors y cliquer pour découvrir l'entièreté de la photo.

Twitter a initié un réseau neural pour choisir comment cette découpe doit s'effectuer, en se focalisant entre autres sur les visages. Mais ce réseau neural a commis des erreurs, comme il ressort de démonstrations de différents utilisateurs de Twitter.

Sur plusieurs photos où apparaissent un homme blanc et un homme noir, habillés de la même façon et adoptant des poses comparables, l'algorithme choisit presque toujours le visage blanc.

La série de tests informels a été lancée par un utilisateur qui tentait de poster un tweet sur la reconnaissance faciale automatique dans Zoom. Celle-ci éprouvait aussi des problèmes à identifier le visage d'un collègue noir. Une fois le tweet publié, Twitter sembla privilégier son visage blanc plutôt que celui de son collègue. D'autres tests démontrèrent que l'algorithme avait vraiment une préférence marquée.

Twitter même s'est entre-temps déjà excusée et signale revoir le système. "Il est clair que nous devons passer à la vitesse supérieure au niveau de l'analyse", déclare Liz Kelley du service de communications de Twitter dans un tweet. "Nous allons rendre notre travail open source, afin que d'autres puissent le contrôler et réagir."

Des utilisateurs de Twitter ont découvert un étonnant problème au niveau de la découpe automatique de photos sur le réseau social: celui consistant à sélectionner nettement plus souvent des visages de personnes blanches plutôt que ceux de personnes de couleur. Le problème semble être dû à un algorithme qui doit déterminer automatiquement où se trouve le focus d'une photo. Lorsqu'on publie une photo dans un tweet, elle est automatiquement découpée au format correct. On peut alors y cliquer pour découvrir l'entièreté de la photo.Twitter a initié un réseau neural pour choisir comment cette découpe doit s'effectuer, en se focalisant entre autres sur les visages. Mais ce réseau neural a commis des erreurs, comme il ressort de démonstrations de différents utilisateurs de Twitter.Sur plusieurs photos où apparaissent un homme blanc et un homme noir, habillés de la même façon et adoptant des poses comparables, l'algorithme choisit presque toujours le visage blanc.La série de tests informels a été lancée par un utilisateur qui tentait de poster un tweet sur la reconnaissance faciale automatique dans Zoom. Celle-ci éprouvait aussi des problèmes à identifier le visage d'un collègue noir. Une fois le tweet publié, Twitter sembla privilégier son visage blanc plutôt que celui de son collègue. D'autres tests démontrèrent que l'algorithme avait vraiment une préférence marquée.Twitter même s'est entre-temps déjà excusée et signale revoir le système. "Il est clair que nous devons passer à la vitesse supérieure au niveau de l'analyse", déclare Liz Kelley du service de communications de Twitter dans un tweet. "Nous allons rendre notre travail open source, afin que d'autres puissent le contrôler et réagir."