La sécurité est-elle en attente de GenAI?

Ces derniers mois, il n’y a pas eu la moindre conférence technique ou argumentaire de vente en IT sans au moins un chapitre sur l’IA. Mais qu’est-ce que cela signifie pour la sécurité, par exemple, un secteur dans lequel on préférerait ne pas faire face à des attaques hallucinantes? Pour le savoir, nous sommes allés chez la firme de sécurité européenne Eset.

GenAI est également un sujet bien présent chez Eset. C’est ainsi que l’entreprise de sécurité slovaque annonce son premier AI Advisor. Le chatbot a comme but d’aider les analystes en sécurité, notamment en passant au crible les nombreux rapports de recherche publiés. ‘Nous l’avons en outre optimisé pour qu’il fonctionne de manière largement indépendante aux terminaux’, déclare Richard Marko, CEO d’Eset, au public présent lors de la conférence Eset World à Bratislava, en Slovaquie.

Ce travail hors ligne est étonnant, car nous nous habituons entre-temps au besoin permanent d’une connexion internet dont les géants de la technologie ont besoin pour faire fonctionner leur intelligence artificielle dans le cloud. Mais pour des raisons de sécurité, il est également logique que vous souhaitiez déconnecter le réseau de temps en temps. Comme dans le cas d’une attaque active. ‘Nous avons aussi de nombreux clients qui restent hors réseau avec des environnements ‘airlocked’ par exemple’ ajoute Juraj Jánošík , responsable de l’apprentissage IA/ML chez Eset. Pensez par exemple aux porte-conteneurs, qui ne sont pas sur le réseau, mais qui doivent être actualisés de temps à autre et sont alors vulnérables aux infections. “Là également, on souhaite pouvoir installer des modules capables de détecter du code malveillant’, explique-t-il.

Pas nouveau

Les scanners du logiciel de sécurité Esets Protect, et ceux de la plupart des autres fournisseurs, intègrent depuis plusieurs années déjà l’apprentissage machine et des algorithmes pour mieux détecter les logiciels malveillants. ‘Ce n’est pas nouveau’, souligne Jánošík à Data News. ‘Nous utilisons des algorithmes pour détecter les logiciels malveillants et les attaques depuis des années déjà, et nous les affinons depuis tout aussi longtemps. Nous utilisons à présent dans ce but les technologies les plus récentes, comme des transformateurs. L’astuce, cependant, consiste à réduire la taille de l’IA. Dans le cloud, vous pouvez faire ce que vous voulez: faire tourner de très gros modèles qui consomment beaucoup d’énergie, mais sur leur appareil, les utilisateurs souhaitent que la sécurité ralentisse le moins possible le fonctionnement.’

Ces modèles sont actuellement optimisés pour tourner sur des CPU. ‘Mais nous collaborons avec Intel pour créer des modèles capables de fonctionner sur de nouvelles puces dans une NPU (Neural Processing Unit ou unité de traitement neuronal). Cela devrait être encore plus efficace’, ajoute Janošík.

NPU

Ce genre de NPU est l’arme secrète des PC améliorés par l’IA, qui ont fait leur apparition ces derniers mois. ‘Il y a à présent un éventail de fournisseurs qui fabriquent ces produits’, explique Alastair Edwards de Canalys. ‘Nous prévoyons que d’ici 2027, quelque soixante pour cent de tous les PC vendus contiendront une NPU.’ Une NPU doit, entre autres, fournir de meilleurs résultats lors du traitement de l’intelligence artificielle. ‘Elle vous permet de faire tourner des fonctions d’IA sur l’appareil même, plutôt que dans le cloud’, affirme Edwards. ‘C’est plus rapide et comme vous supprimez une partie du travail du GPU et du CPU, cela peut également être plus économe en énergie. C’est bon, entre autres, pour la durée de vie de la batterie d’un tel appareil.’

En faisant tourner également une partie de la détection des logiciels malveillants sur cette NPU, Eset espère créer un module plus rapide et plus indépendant, capable aussi d’utiliser hors ligne la toute nouvelle technologie.

‘L’autre face’

Les firmes de sécurité reconnaissent donc bien la valeur de l’IA, mais la technologie n’offre-t-elle pas également les mêmes avantages pour ‘l’autre face’? ‘Eset ne distingue pas directement beaucoup de mouvement dans l’IA pour les gangs criminels’, déclare Juraj Malcho, CTO d’Eset: ‘On voit que les gangs eux-mêmes ne forment pas de LLM. Ils s’occupent principalement de tenter de ‘jailbreaker’ (débrider) des modèles existants comme ceux d’OpenAI ou de Mistral. Ils tentent ainsi de les utiliser à leurs propres fins.’

Elod Kironsky , vice-président d’Endpoint Solutions, est du même avis: ‘Les criminels ne disposent ni du matériel ni des données nécessaires pour créer eux-mêmes des modèles.’ Et comme ces modèles fonctionnent avec des données plus anciennes, le danger est moindre que vous ne le pensez. ‘Les données d’une Lama ou d’une Mistral sont figées dans le temps, alors que les organisations qu’ils souhaitent toucher sont en constante évolution. Les criminels ne possèdent pas les données nécessaires pour créer une IA offensive. Pour être clairs, nous ne parlons pas ici d’états-nations qui disposent des ressources et du personnel nécessaires. Mais au sein de la firme de sécurité, on voit actuellement surtout les côtés positifs. ‘Jusqu’à présent, nous avons toujours essayé de suivre le rythme’, explique Juraj Jánošík. ‘Nous tentons de créer des couches de protection pendant que les agresseurs essaient de les contourner. Ils peuvent également contourner l’IA, qui constitue une couche supplémentaire, mais cela nous donne un petit avantage. Les modèles dont nous disposons actuellement, peuvent être utilisés pour aider les chercheurs dans la création de rapports et l’administration, leur permettant ainsi de se concentrer sur ce qui est important, comme la recherche de menaces. Comme il y a actuellement une pénurie de chercheurs en sécurité, cela constitue un atout important.’