La technologie a besoin d’une dimension morale

Dommage de devoir en arriver à un point tel qu’il soit branché de donner une dimension morale et éthique à la technologie, dans le respect des valeurs de chacun, des normes et de la vie privée. Non que ce soit une mauvaise chose évidemment, mais il aurait été préférable de considérer l’éthique comme faisant partie intégrante de l’économie. Mais soit, le monde est ainsi fait et il s’agit désormais d’une mode dans le secteur technologique, s’il faut en croire les analystes et les experts.

En fait, l’explication est évidente : il suffit de voir le nombre de scandales qui ont éclaté ces derniers mois et années. Plus la taille de l’entreprise et son impact sur la société sont grands, plus les scandales sont retentissants. Il suffit de songer à Tesla et Uber, mais aussi aux Facebook et Google de ce monde : conditions de travail déplorables, fuites de données, violation de la vie privée, racisme et sexisme – avérés ou supposés. Pour ne pas parler de ‘fake news’ et de manipulation de l’opinion publique ou d’élections. Clairement donc, le secteur technologique fait face à un défi majeur, mais semble désormais, davantage que par le passé, disposé à le relever. Car il s’agit d’autant de scandales qui n’ont pas leur place dans la 4e révolution industrielle à laquelle nous sommes désormais tous confrontés. Une révolution caractérisée par l’impact de l’intelligence artificielle et où l’effet de biais constitue un problème. En matière de genre par exemple. Quelqu’un doit alimenter les algorithmes IA et former les modèles, sachant que la population IT est essentiellement constituée d’hommes. D’où le risque de voir des partis pris (involontaires) s’insinuer dans les modèles IA. De même, qu’en est-il de la responsabilité lorsque l’on parle de voiture autonome plutôt que d’être humain ? En quoi la responsabilité d’un homme est-elle différente de celle d’une machine ? Voilà bien un autre débat éthique majeur et un défi pour la société. Si le thème est à l’ordre du jour et fait couler beaucoup d’encre, il n’en reste pas moins largement ouvert. Entre-temps, des acteurs majeurs édictent déjà leurs propres directives éthiques, comme l’a fait Google plus tôt dans l’année. Et fin avril, la Commission européenne publiait un document stratégique précisant son intention de prendre le leadership en matière de directives éthiques concernant l’IA.

Mais il serait bon d’aller plus loin, et surtout d’être plus exhaustif. Ce mois-ci, nous avons rencontré Feiyu Xu, le responsable IA de Lenovo qui dirige l’IA Lab et travaille depuis près de 30 ( !) ans déjà dans l’IA. ” Il est grand temps que l’industrie ICT se fasse entendre d’une seule voix en matière d’éthique “, nous a-t-elle confié. Un appel que nous ne pouvons que répercuter. L’idée est lancée, la dynamique existe et les esprits sont matures : espérons seulement que l’on aboutira à des résultats concrets. Voilà en tout cas notre premier voeu pour 2019 : notre société ne pourra qu’en sortir grandie.