Attention: peut contenir des traces d’IA

Nous savons maintenant que l’intelligence artificielle n’est aussi intelligente que les données sur la base desquelles elle est entraînée. Or même si les données sont insuffisantes, l’IA parvient à s’en sortir. L’intelligence artificielle parvient à paraître plus intelligente qu’elle ne l’est en réalité: voilà au moins un point commun avec l’homme. Cela étant, certaines personnes réussissent en outre à donner l’impression que leurs produits ou services sont plus intelligents en y apposant une étiquette en vogue, comme ‘powered by IA’, ou en recourant à des slogans chocs comme ‘algorithmes d’apprentissage machine uniques’ ou ‘modèles d’IA innovants’.

Cela porte un nom: ‘AI-washing’. Par analogie au ‘greenwashing’: des entreprises ou organisations se disent plus vertes ou plus socialement responsables qu’elles ne le sont en réalité. Le phénomène d’IA-blanchiment a émergé à plusieurs reprises ces dernières années, pratiquement au même rythme que les effets de mode autour de l’IA. Pas étonnant dès lors d’avoir assisté ces six derniers mois – depuis l’introduction de ChatGPT et de toutes les IA génératives dans son sillage – à un nouveau déferlement.

Un déferlement qui a pris différentes formes, depuis des informations peut-être inconsciemment erronées jusqu’à une réalité embellie en passant par des pratiques tout bonnement trompeuses. Certes, le marketing a sans doute toujours véhiculé une image tronquée – le hamburger de McDonald’s n’a pas le même goût que celui présenté sur la publicité, n’est-ce pas? –, mais ne faudrait-il pas que le message soit cohérent?

Ces derniers temps, force a été de constater que le terme IA est utilisé parfois à bon escient, mais souvent aussi à mauvais escient. Songez à l’expression ‘algorithmes d’IA avancée’ qui se traduit davantage en pratique par des petits bouts d’innovation. Ou aux entreprises qui se profilent comme ‘innovantes et leaders en matière d’IA’, mais qui ne proposent en fait que des outils IA open source ou même gratuits. Et sans l’avoir expérimenté personnellement, cet exemple encore: cette société qui prétend que ses solutions sont gérées par l’IA, mais qui a en fait recours à des collaborateurs en coulisses. Fort de café. Voilà qui paraît tout aussi suspect que le bon vieux mème Internet – à l’époque, il était même, me semble-t-il, question de parodie – où les collaborateurs se cachaient à l’intérieur de prétendus automates intelligents. Autre cas fréquent et sans doute plus plausible: une application IA très pointue qui fonctionne parfaitement dans un environnement bien précis, mais qui est présente comme un miracle et la solution idéale en toutes circonstances.

Si l’IA brille trop, c’est qu’elle n’est pas en or.

Qu’il s’agisse de tromperie voulue, de marketing à la petite semaine ou même de fraude, voilà qui fait fortement penser au ‘cloud-washing’, cet autre terme qui a fait fureur au cours de la décennie passée lorsqu’entreprises et fournisseurs de services entendaient migrer tout dans le cloud. Ou du moins le présentaient comme tel dans leurs produits et solutions. À l’époque, le message pour les CIO et responsables IT était de prendre leurs distances, ce qui est encore largement le cas aujourd’hui. Bref, en tant que CIO, il s’agit plus que jamais de se montrer prudent lors de choix technologiques ou stratégiques basés sur l’IA. Une ‘due diligence’ approfondie, un sens critique et un esprit ouvert sont de rigueur. Quels algorithmes? Quelle forme d’entraînement? Quelles données? Où développer? Et ne pas croire les yeux fermés que ce prétend le fournisseur.

La règle d’or? Si l’IA brille trop, c’est qu’elle n’est pas en or. Et si l’IA qui vous est présentée paraît trop belle, c’est qu’elle n’est sans doute pas vraie.