Helmut Reisinger, Palo Alto Networks: ‘La question est de savoir comment éviterd’alimenter un LLM avec des données sensibles’

Les temps sont devenus passionnants à présent que tant l’IA que le monde politique rebattent les cartes. Data News s’est entretenu avec Helmut Reisinger, CEO de Palo Alto Networks pour l’EMEA et l’Amérique latine sur la stratégie de l’entreprise.

Ces derniers mois, le monde a été soumis à des tensions géopolitiques majeures. Celles-ci ont-elles eu un impact sur vos activités ?

Helmut Reisinger: Si nous analysons le paysage de la menace, force est de constater que chaque jour, de l’ordre de 2,3 millions de menaces sont enregistrées. Voici un an, il s’agissait de 1,6 million. Il y a donc clairement une accélération au niveau des nouvelles attaques et menaces. Celle-ci est en partie due à l’IA que de nombreux criminels utilisent. Mais d’autres facteurs entrent en jeu, comme la situation géopolitique.
Si vous analysez les conflits en cours en Europe de l’Est, vous remarquerez que des acteurs étatiques sont très actifs et qui cherchent en général une forme de rupture. Mais il existe aussi des acteurs criminels qui recherchent des gains financiers. Par ailleurs, les acteurs étatiques visent non seulement à semer le trouble, mais aussi à faire de l’espionnage, à détourner de la propriété intellectuelle. Songez aux recherches menées dans le domaine de l’armement ou de l’automatisation. Mais outre ces criminels et pirates étatiques, on trouve évidemment aussi des ‘nerds’ qui veulent simplement prouver qu’ils en sont aussi capables, sans oublier les activistes. Alors que les activistes du climat préfèrent se menotter au sol, on voit apparaître, notamment en Amérique latine, des ‘hacktivistes’ qui mènent des attaques en ligne. C’est ainsi que l’an dernier, ils ont paralysé une entreprise qui exploite des gazoducs en Équateur, au Pérou et en Colombie.
Certes, les tensions géopolitiques ne vont certainement pas rendre le monde de la sécurité plus stable, mais elles n’ont pour l’instant guère d’impact sur notre entreprise. Le principal facteur auquel nous sommes actuellement confrontés est l’IA utilisée par nos adversaires.

L’IA peut être utilisée par vos adversaires, mais aussi par vous-même. Dans quelle mesure influence-t-elle le secteur de la sécurité ?

Reisinger: Cela implique que nous devions réagir plus rapidement. C’est ainsi que nous allons travailler avec nos clients pour améliorer nos temps de réaction. Le ‘Mean Time to Remediate’, entendez le temps nécessaire pour réagir face à une menace, doit être réduit. Pourquoi est-ce important ? Parce que les pirates utilisent de plus en plus l’apprentissage machine et l’IA. Le délai entre la compromission initiale d’une organisation et l’exfiltration de données est désormais fortement réduit. Voici 2 ans, il fallait en moyenne 9 jours. Désormais, c’est moins d’un jour dans la moitié des cas que nous rencontrons.

L’IA n’induit-elle pas chez vos adversaires de nouvelles vulnérabilités ? Songeons à des collaborateurs qui font écrire leurs courriels par ChatGPT.

Reisinger: La question qui se pose avec l’IA est de savoir comment éviter d’alimenter un tel grand modèle de langage avec des données sensibles. Supposons que vous soyez un jeune marketeur qui entend bien respecter ses délais lors d’une campagne de lancement d’un nouveau produit financier. Et qui ajoute des données sensibles à son modèle externe pour permettre par exemple d’avoir un avantage compétitif. Je me suis récemment entretenu avec le CEO et le CTO d’une grande entreprise européenne d’infrastructure qui m’expliquaient qu’ils refusaient ce type de données dans un modèle externe. Le problème est qu’il est impossible d’avoir des garanties.

Car pas tout le monde utilise uniquement ce qui est proposé par le département IT.

Reisinger: Effectivement. Le défi est que l’on est aujourd’hui face à quelque 600 LLM. Il en existe pour la traduction, la rédaction de textes et même pour aider à la programmation notamment. Tout le monde parle de ChatGPT, mais il ne s’agit que d’un parmi beaucoup d’autres.

L’une des solutions que nous proposons à ce niveau est notre Precision AI. Nous offrons à nos clients un abonnement supplémentaire, une case que l’on coche dans des modules ‘zero trust’, ce qui active l’IoT Security for AI Access. L’idée sous-jacente consiste à donner au client davantage d’analyse et de contrôle sur l’IA utilisée dans l’entreprise. On trouve aussi le module AI Access qui veille à ce que seules les personnes ayant les droits nécessaires puissent utiliser des LLM spécifiques et qui sont approuvés par l’entreprise. Par ailleurs, il existe un AI Security Posture Management qui indique qui utilise quoi et quels sont ses droits. Enfin, on trouve un troisième module, AI Runtime Security, qui aide à veiller à ce que, lorsque des personnes utilisent un logiciel ou une application qui contribue à l’apprentissage machine, rien ne soit mis en danger. Je pense que nous pouvons ainsi donner le ton quant à une sécurité de qualité dans l’approche défensive de l’IA.

Plusieurs législations voient le jour en matière d’IA et de sécurité. Quel est leur impact ?

Reisinger: Nous croyons que la communauté pourra ainsi être plus agile. L’Europe a été parmi les premiers à aborder la problématique de l’IA. Non en l’interdisant, mais en veillant à une utilisation saine, sans mettre en danger la collectivité, les entreprises ni même les citoyens. Nous pensons qu’il s’agit là d’un bon début.

Palo Alto Networks travaille souvent pour les très grandes organisations. Qu’en est-il en Europe, où l’on trouve traditionnellement plus de PME ?

Reisinger: Nous avons évidemment quelques grands clients prestigieux. Mais je suis moi-même originaire d’Autriche et l’Europe est en effet un paysage dominé par les petites et moyennes entreprises. Celles-ci font bien sûr face aux mêmes menaces que les grandes entreprises. C’est pourquoi nous anticipons une forte croissance à ce niveau, également dans le segment des PME. Et comme la plupart de nos solutions sont basées sur du logiciel, elles leur conviennent parfaitement. Et en Belgique, nous collaborons également avec des partenaires. Nous travaillons par exemple avec Proximus, qui est très présent sur le marché des PME et nous commercialisons dès lors en indirect vers les clients. En fonction du pays, nous essayons toujours de trouver des partenaires qui nous aideront à grandir.

Voici quelques années, vous avez commencé à proposer des services de gestion de la sécurité avec une plateforme d’automatisation des SOC. Comment ont-ils évolué ?

Reisinger: Dans ce domaine, nous avons introduit deux innovations. Tout d’abord, la fonction SIEM pour Security Incident Event Management. Historiquement, l’industrie est bâtie sur ce concept, à savoir la collecte de logs. Et lorsque l’on supposait un incident, on consultait les enregistrements pour voir ce qui s’était passé. Entre-temps, nous avons intégré une autre approche : comme nous disposons d’énormément de données de télémétrie, il est possible d’analyser en permanence les logs au niveau des problèmes de sécurité. L’autre défi majeur consiste à utiliser les modèles d’apprentissage machine pour le SOC. Nous les appelons les ‘playbooks’. Nous passons ainsi de 3,5 jours chez les clients pour détecter un incident à moins d’une heure. Aujourd’hui, être un expert en SOC est un métier stressant et ces modèles vont nous aider.

Un SOC a-t-il encore un avenir s’il est remplacé par l’IA ?

Reisinger: Absolument. Nous sommes intimement convaincus que la réflexion de l’individu est nécessaire, mais que l’IA peut l’élargir et la soutenir. Nous ne voulons pas faire un ‘business case’ du remplacement d’un SOC et de la disparition d’emplois. Il faut constamment s’améliorer et une telle approche va y contribuer.