L’UNESCO prévient que l’IA menace de réécrire l’Holocauste

L’intelligence artificielle générative (Gen AI) encourage la diffusion de fausses informations sur l’Holocauste, selon l’UNESCO dans un rapport récemment publié.

D’après le rapport, la diffusion de fausses informations peut ‘alimenter l’antisémitisme, mais aussi modifier notre rapport aux valeurs historiques’. En d’autres termes, l’IA menace de réécrire l’histoire de l’Holocauste. ‘Si nous permettons que les terribles faits de l’Holocauste soient atténués, déformés ou falsifiés par l’utilisation irresponsable de l’IA, nous allons au-devant d’une montée fulgurante de l’antisémitisme et d’un déclin de notre compréhension des causes et des conséquences de ces atrocités’, déclare la directrice générale de l’UNESCO, Audrey Azoulay.

Dans le rapport – par ailleurs une collaboration avec le Congrès juif mondial -, l’agence des Nations Unies affirme que des modèles d’IA générative tels que ChatGPT, qui génèrent du texte, des photos, des sons et des vidéos à partir de recherches quotidiennes, inventent certains événements de la Seconde Guerre mondiale.

L’hallucination: un problème connu

Ces faits falsifiés – également appelés ‘hallucination’ dans le monde de l’IA – constituent un problème connu, auquel presque tous les géants technologiques ont déjà été confrontés. En février, l’interface Gen AI de Google, Gemini – initialement connue sous le nom de Bard – avait déjà fait sensation en produisant des images de nazis à la peau noire. ChatGPT, qui avait introduit l’IA générative auprès du grand public lors du lancement d’OpenAI en 2022, a inventé ensuite le concept d’un ‘Holocauste par noyade’. ChatGPT avait en effet présenté comme une vérité le fait que les nazis avaient noyé en masse des Juifs dans des lacs et des fleuves.

L’UNESCO milite pour plus de principes éthiques

‘La recommandation de l’UNESCO sur les aspects éthiques de l’IA doit être mise en œuvre de toute urgence, afin que les plus jeunes générations grandissent à nouveau avec des faits réels et non de la fiction’, conclut Audrey Azoulay. La directrice générale de l’agence des Nations Unies fait ainsi référence à une recommandation qui remonte à novembre 2021 déjà. L’UNESCO y exhorte les entreprises technologiques à mettre en œuvre les normes nécessaires, à assumer leurs responsabilités et à garantir que des principes tels que la bonne foi, la transparence, les droits de l’homme et l’obligation de vigilance (‘due diligence’) soient intégrés dans les applications dès la phase de conception.

En février de cette année, 8 grandes entreprises technologiques, dont Microsoft, se sont ralliées à la ‘Recommendation on the Ethics of AI’ (recommandation sur l’éthique de l’IA). La recommandation a désormais été intégrée dans la législation de plus de 50 pays.