D’après une étude menée par un chercheur spécialisé dans les hypertrucages (deepfakes), le chatbot Grok d’Elon Musk génère quelque 6.700 images par heure montrant des personnes dénudées par l’IA, sans leur consentement. Les cinq sites web les plus fréquemment utilisés ensuite pour ce type de demandes génèrent en moyenne 79 images par heure.
Depuis fin décembre, les utilisateurs de la plateforme X d’Elon Musk peuvent faire modifier des illustrations via Grok. Cela avait suscité la polémique la semaine dernière déjà. Grok remplace, par exemple, à la demande les vêtements de personnes par un bikini. Des plaintes ont également été déposées à propos du fait que Grok génère des images à connotation sexuelle de mineurs d’âge.
Peu de restrictions
L’ampleur des deepfakes sur X est ‘sans précédent’, a déclaré à l’agence de presse Bloomberg un avocat spécialisé dans les délits sexuels en ligne. On estime que 85 pour cent des images générées par Grok sont à caractère sexuel.
Contrairement à d’autres chatbots bien connus, Grok impose peu de restrictions à ses utilisateurs, selon les experts. Cela concerne notamment la production d’images à connotation sexuelle. Pour rappel, Elon Musk avait présenté Grok comme ‘plus amusant’ et ‘plus audacieux’ que les autres chatbots sur le marché.
La France et la Malaisie ont ouvert des enquêtes sur Grok. Le régulateur britannique Ofcom a demandé à Elon Musk des explications sur la capacité de Grok à déshabiller les gens. La Commission européenne prend également ‘très au sérieux’ les plaintes concernant le chatbot. ‘C’est illégal. C’est inadmissible’, a ainsi déclaré un porte-parole de la Commission lundi.
xAI, startup spécialisée dans l’IA d’Elon Musk, lève 20 milliards de dollars
Le chatbot d’IA Grok a été développé par xAI, une entreprise appartenant à Musk. La firme a annoncé mardi avoir levé 20 milliards de dollars d’investissement. Nvidia et le fonds souverain du Qatar, entre autres, ont participé à cette phase d’investissement. Nvidia est le principal développeur au monde de puces pour l’intelligence artificielle. xAI elle-même utilise des processeurs Nvidia pour former ses modèles d’IA.