Sécurité IA: attend-on une pandémie numérique ou s’y prépare-t-on?

Depuis quelques mois, les messages concernant ChatGPT et l’IA ne manquent assurément pas, et ce n’est à coup sûr pas une mauvaise chose. Cela génère en effet de la transparence qui nous permet de comprendre ce qui nous arrive. Tout comme avec la cybersécurité, on ne peut être aveugle aux risques et à tout ce qui entoure cette nouvelle technologie. Heureusement, la peur n’est pas bonne conseillère. Nous avons déjà vécu cela. Plusieurs fois même. Et nous avons toujours survécu.

De l’outil ChatGPT jusqu’au chien robotisé qui se balade dans le living: l’intelligence artificielle se met à présent véritablement à s’imposer dans la société au sens large. D’un côté, elle offre énormément d’opportunités. Pensez au secteur médical où des nanobots, à savoir de minuscules robots, sont sur le point de sauver des vies humaines. Mais d’un autre côté, nous devons aussi oser nous poser la question de savoir qui est responsable en cas de problème avec l’IA. Le programmeur du système? Le fournisseur de l’outil? L’utilisateur final? Ou une combinaison des trois?

On doit oser réfléchir à l’impact que cette technologie exerce sur notre société. Malheureusement, les gens ont toujours été frileux face au changement et préfèrent se mettre la tête dans le sable. Jusqu’à ce que cela ait effectivement un impact sur la vie de tout un chacun. On pourrait comparer cela à la façon dont on utilise les back-ups. Initialement, on était certes conscient que les sauvegardes étaient importantes, mais personne ne voulait payer pour cela. Jusqu’à ce que le ransomware devienne subitement omniprésent et que les organisations comprennent que de bons back-ups devaient se trouver tout à l’avant de la chaîne de sécurité. De même, la technologie IA va progressivement gagner l’avant de cette chaîne.

Se préparer, réagir et corriger

Comment doit-on s’y prendre avec les développements technologiques qui ont le potentiel pour redessiner entièrement notre façon de travailler? En fait, on connaît déjà la réponse, car on a tous déjà vécu pareille situation avant. On peut même parler d’un cycle qui se manifeste, lorsqu’une nouvelle invention ou technologie est lancée dans le monde. Pratiquement tout est développé dans l’intention d’améliorer les choses. Mais on découvre néanmoins qu’il y a toujours un moment où quelqu’un tente d’abuser d’une solution.

Les systèmes d’IA réalisent des choses révolutionnaires jusqu’à ce que cela se gâte, parce que des préjugés se sont glissés dans la solution.

La poudre à canon a autrefois été inventée avec les meilleures intentions, jusqu’à ce que d’aucuns découvrent qu’elle pouvait produire des explosions. Les applications IT sophistiquées permettent aux entreprises de générer davantage d’activité, jusqu’à ce que des hackers distinguent une opportunité de propager des rançongiciels via ces canaux. Quant aux systèmes d’IA, ils réalisent des choses révolutionnaires jusqu’à ce que cela se gâte, parce que des préjugés se sont glissés dans la solution.

Lorsqu’on introduit une nouvelle technologie, on passe chaque fois par le même processus en trois étapes. On tente d’abord de se préparer au mieux. Ensuite, on réagit aux problèmes qui se posent. Et enfin, on corrige ce qui n’allait pas. On ne peut par exemple pas arrêter complètement un pirate avec n’importe quel outil de sécurité, mais on peut limiter les dommages en ralentissant une attaque et en la déviant dans une autre direction.

Plus vite la boucle sera bouclée, plus vite on pourra bénéficier de l’impact positif de la technologie sur notre vie.

Eviter la pandémie numérique

Une bonne préparation est donc essentielle. Et dans ce but, la transparence est nécessaire. Si on sait ce qui se passe sur le marché et si on voit les changements qui s’y profilent, on peut les anticiper et élaborer de meilleurs politiques ou législations. La transparence est la meilleure défense pour construire quelque chose de manière durable. Généralement, les pièces du puzzle se trouvent chez différents acteurs, et il convient donc de rassembler le plus de points de vue possibles.

De plus, il est important tant dans le monde des affaires qu’en politique de positionner des personnes disposant du bon bagage technique là où les décisions sont prises. Il convient aussi que les dirigeants et les décideurs s’entourent d’experts ayant la connaissance ad hoc. Ce n’est pas un hasard si les géants technologiques sont aujourd’hui les entreprises les plus prospères au monde. Ils sont dirigés par des personnes ayant une vision de l’avenir et une perspective inspirante pour les autres.

Tout comme les experts de la santé se sont soudainement retrouvés quotidiennement dans les studios d’information pendant la période covid, remplissant les journaux et influençant les décisions sur les mesures anti-corona, les experts du numérique doivent désormais assumer leur rôle pour préparer notre société et nos entreprises. Seule une bonne préparation peut empêcher notre société d’aboutir dans une pandémie numérique. Après tout, on est confronté à la plus grande innovation depuis la révolution industrielle. Dans chaque révolution que l’humanité a vécue, on ne savait pas quoi faire au début. Pourtant, on en est toujours sorti. Maintenant, on a l’avantage de pouvoir mieux se préparer car on connaît déjà une partie du processus. Et le reste? Découvrons-le donc ensemble.