GPT-4 devient à présent aussi modérateur sur les médias sociaux

Grâce au nouveau rôle qu’OpenAI voit confié à son GPT-4, celui de modérateur de contenus sur les réseaux sociaux, force est de constater que les modèles de langage de ce genre sont encore à la recherche de leur véritable fonction dans notre vie et notre travail. Il est donc logique que le cabinet d’analystes Gartner ait attribué à l’ensemble de l’IA générative une nouvelle position dans son cycle de battage médiatique bien connu: le Pic des Attentes Démesurées.

Etre modérateur sur des forums publics sur internet, en ces temps de post-vérité et de post-honte, est un travail dur, ingrat, chronophage, mentalement épuisant. Un travail idéal donc à confier à l’IA, selon OpenAI, la firme technologique américaine à l’origine de GPT-4. OpenAI déclare avoir trouvé un moyen d’utiliser son modèle de langage pour la modération de contenus web.

La technique développée par OpenAI est basée sur un ensemble de directives claires dans le domaine des contenus toxiques et illégaux, que GPT-4 recherche dans de grandes quantités de texte. De plus, selon l’entreprise, le modèle de langage est déjà devenu incroyablement apte à aider à créer de nouvelles lignes stratégiques.

A l’échelle

Le principal avantage est que le déploiement de GPT-4 rend la modération de quantités massives de contenus internet d’utilisateurs plus évolutive. Le modèle de langage peut remplacer des dizaines de milliers de modérateurs humains, fonctionner avec autant de précision et peut-être même être plus cohérent dans le blocage de contenus qui n’ont pas leur place dans le débat public, affirme OpenAI.

À l’heure actuelle, les entreprises à l’origine des médias sociaux recherchent principalement ce type d’évolutivité en faisant surveiller les contenus par des sociétés spécialisées, qui emploient une mini-armée de modérateurs. Généralement dans des pays à bas salaires, et sans guère se soucier de la pression mentale que du contenu toxique et parfois traumatisant peut faire peser sur les collaborateurs. Remplacer ce type de travail par un modèle d’IA s’avère donc presque logique, selon Lilian Weng, directrice des systèmes de sécurité chez OpenAI, qui s’est confiée au site d’information Semafor. ‘C’est un solide pas en avant dans la façon dont nous utilisons l’IA pour résoudre des problèmes dans le monde réel d’une manière qui profite à la société.’

Prêt à plonger

Les nouvelles applications de l’IA générative sont à la hausse, mais les attentes exorbitantes qu’on place dans la technologie, dépassent encore et toujours les applications effectives qui sont inventées pour elle. C’est pourquoi le cabinet d’études de marché Gartner a placé l’IA générative au sommet des attentes démesurées de son célèbre Gartner Hype Cycle. Là où les médias et les fines mouches de l’industrie ne peuvent garder le silence en la matière, mais où l’enthousiasme inflationniste crée également des attentes irréalistes.

Toute personne familière avec le Hype Cycle de Gartner sait quelle sera la prochaine station: le creux ou la désillusion, le point où les expériences échouent, les startups meurent et l’intérêt public diminue. Il faudra encore deux à cinq ans avant que le pouvoir de transformation de l’IA générative ne devienne évident pour tout le monde, selon Gartner.