La base de données d’un site web ‘AI Girlfriend’ a été piratée. Outre les vrais noms et comptes, les fantasmes et les descriptifs des utilisateurs circulent également. La maltraitance d’enfants et l’inceste ne sont pas non plus évités.
Muah.ai est un site où vous pouvez chatter avec un ami virtuel. Alors que de nombreux AI chatbots n’autorisent pas le contenu à connotation sexuelle, ou seulement sous une forme très limitée, Muah.ai se présente comme un environnement non censuré dans lequel vous pouvez décrire votre partenaire virtuel, y compris son âge, ses caractéristiques physiques et son comportement sexuel.
404 Media a découvert que le site a été la cible d’un hacker qui a volé une base de données contenant les interactions des utilisateurs avec leur chatbot. Mais ces messages de chat sont également liés aux adresses mail des utilisateurs. Or, dans de nombreux cas, l’adresse e-mail et le chat contiennent des références à leurs vrais noms.
Le hacker évoque son effraction à 404 Media et affirme que le site n’est guère plus qu’un ensemble de projets open source liés dans lesquels il a pu rapidement trouver un certain nombre de faiblesses. L’administrateur du site, connu uniquement sous l’appellation ‘Harvard Dan’, a déclaré au site d’information que le piratage avait été réalisé par un concurrent pour des raisons financières, bien que cela n’ait pas été prouvé.
Le piratage montrerait également que les conversations à connotation sexuelle ne se limitent pas à ce qui est légalement autorisé. Certains chats portent explicitement sur des mineurs, y compris des tout-petits, et sur l’inceste avec de jeunes enfants. Ce genre de chatbots peuvent également être partagés avec d’autres utilisateurs. Ils génèrent à leur tour des réponses ou des conversations qui peuvent être sexuellement explicites. Des images d’IA peuvent aussi être générées, même si on ignore à quelle fréquence et/ou si ces images ont également été collectées par le hacker ou stockées par le site.
L’administrateur du site affirme cependant qu’une modération a lieu et que tous les chatbots créés prétendant être des mineurs sont supprimés, tant sur la plate-forme que sur Discord ou Reddit.
Le gestionnaire du site est au courant du piratage depuis la semaine dernière et a lancé une mise en garde sur Discord, soulignant que les conversations de chat ne sont jamais enregistrées. Quiconque crée un compte sur Muah.ai, lira également que tout y est crypté. Mais 404 Media fait observer que la base de données qu’il a pu consulter, contient effectivement certaines préférences sexuelles.
Vous avez repéré une erreur ou disposez de plus d’infos? Signalez-le ici