Google affirme que des groupes étrangers situés dans des pays comme la Corée du Nord, la Chine et l’Iran utilisent ses outils d’IA pour lancer des cyberattaques. L’IA n’est cependant pas encore aussi avancée qu’on le craint parfois.
Dans son rapport Threath Intelligence Group, l’entreprise révèle que des groupes liés aux gouvernements chinois, russe, iranien et nord-coréen tentent d’utiliser Gemini à des fins malveillantes.
‘L’IA peut être un outil utile pour des acteurs menaçants, mais elle n’est pas encore le facteur de bouleversement qu’on lui prête parfois’, indique Google dans le rapport. Il est question avec elle de générer du contenu, de résoudre des problèmes et de faire de la recherche, mais pas de développer de nouvelles capacités.
Google a identifié les différents groupes non seulement par leurs adresses IP, mais également par des modèles et des signaux techniques. De manière générale, l’IA générative est bien utilisée à des fins malveillantes, mais pas encore dans des scénarios extrêmes. Des situations dans lesquelles des logiciels malveillants sont créés en interrogeant un AI-chatbot, ne semblent pas encore arriver dans l’immédiat.
Iran
Selon Google, l’Iran est le pays le plus actif en matière d’utilisation malveillante de Gemini. L’entreprise y a identifié dix groupes, dont la bande de hackers APT42. 75 pour cent de l’ensemble des activités malveillantes proviendraient d’Iran. On y utilise l’IA de Google, entre autres, pour créer du contenu de phishing ciblé. D’autres groupes se concentrent spécifiquement sur la recherche autour d’Android.
Google a également identifié une vingtaine de groupes liés à la Chine. Il est question ici également de générer du contenu à des fins malveillantes, en combinaison avec des recherches sur des institutions américaines. Selon Google, les groupes chinois utilisent également l’IA de Microsoft à cette fin.
Des Nord-Coréens postulant des emplois
La Corée du Nord semble avoir une approche différente. Ici aussi, Gemini est utilisée pour rechercher d’éventuelles cibles ou un soutien en cas de cyberattaque. Mais les groupes de hackers utilisent également l’outil pour permettre de postuler des offres d’emploi et ainsi orienter des Nord-Coréens (à distance) dans des entreprises occidentales. C’est ainsi que des forums de freelances sont recherchés. En outre, des hackers nord-coréens recherchent également des renseignements sur l’armée et la technologie nucléaire de la Corée du Sud.
En Russie, Google n’a pu identifier que trois groupes. Elle soupçonne que l’utilisation de grands modèles linguistiques y est moins populaire, ou que des LLM locaux sont plus souvent utilisés dans le pays à la place des services de Google ou d’autres acteurs de l’IA.
Vous avez repéré une erreur ou disposez de plus d’infos? Signalez-le ici