Une extension pour le générateur d’images Stable Diffusion semble contenir un logiciel malveillant qui volent vos informations de connexion. Les auteurs prétendent agir ainsi pour protester contre le fait que l’IA ne fait que copier le travail d’artistes.
Stable Diffusion est un générateur d’images qui peut également fonctionner localement et s’adapter au moyen d’options supplémentaires. L’une d’elles est ComfyUI, une interface graphique gratuite permettant d’adapter des modèles au générateur d’images. Pour cette interface, il existe une extension, appelée ComfyUI_LLMVISION, qui permet aux utilisateurs d’intégrer GTP-4 et Claude 3 dans la même interface.
C’est dans cette extension que réside actuellement un risque et que des logiciels malveillants ont récemment été cachés. Selon 404media, sa page Github a récemment été mise hors ligne, mais elle avait signalé juste avant qu’elle avait été compromise.
Entre-temps sur Reddit, quelqu’un prétend que dans la semaine suivant l’installation, de nombreuses notifications de tentatives de connexion sont soudainement apparues, suggérant qu’un logiciel malveillant (malware) a dérobé les informations de connexion qui ont ensuite été activement utilisées de manière abusive. vpnMentor affirme également dans un article de blog que le tout dernier code ComfyUI_LLMVISION a été développé pour voler les informations des utilisateurs. Des portefeuilles cryptographiques peuvent également être volés de cette façon.
‘Contre le vol d’œuvres d’art’
Il semble que l’extension en question était initialement légitime, mais que les comptes des auteurs ont été piratés il y a quelque temps, permettant aux hackers de modifier le code. Le groupe qui en est à l’origine, s’appelle Nullbulge.
Selon 404media, le groupe dispose également d’un site, actuellement hors ligne, mais qui indique qu’il est un collectif qui ‘croit en l’importance de protéger les artistes et d’assurer une juste rémunération pour leur travail’. D’autres messages prétendent que le groupe s’oppose au ‘vol d’art’, à la ‘promotion des crypto-monnaies’, à l’art généré par l’IA et au vol d’œuvres d’artistes.
Une telle approche vient en outre du fait que les grands modèles de langage destinés à générer des textes et des images acquièrent leurs compétences en analysant de grandes quantités de textes et d’images. C’est pourquoi le secteur créatif critique régulièrement le fait que l’IA utilise de manière non sollicitée le travail de vrais artistes comme source d’énergie pour ensuite produire des œuvres similaires, ce qui peut faire en sorte que artistes eux-mêmes reçoivent moins de commandes rémunérées, parce que leur travail est réalisé par l’IA.
Conviction morale ou bonne excuse?
Il nous faut préciser ici qu’il n’existe aucune preuve que Nullbulge, en tant que groupe criminel, souhaite réellement défendre les artistes. Il se peut qu’il infecte des appareils par conviction morale, mais cela peut aussi être un prétexte pour gagner plus de sympathie et pirater entre-temps les comptes d’utilisateurs.
Vous avez repéré une erreur ou disposez de plus d’infos? Signalez-le ici