Meta, la société-mère de Facebook, Instagram et WhatsApp entre autres, lance Llama3, une version amplifiée de son vaste modèle de langage (‘large language model’ ou LLM).
La troisième génération de Llama se compose de deux modèles. Un premier, qui sort aujourd’hui même, comporte 8 milliards de paramètres. Un second, baptisé Llama 3 70B, contiendra septante milliards de paramètres. Ces paramètres permettent de calculer dans quelle mesure un modèle d’IA peut effectuer diverses tâches telles que l’analyse et la génération de textes. Plus de paramètres signifie en gros qu’un modèle d’IA peut réaliser davantage de tâches.
Tant Llama 3 8B que 70B ont été formés sur des clusters de 24.000 GPU élaborés par Meta. Or, selon le géant technologique, ce sont les modèles d’IA les plus performants sur le marché aujourd’hui. Les nouveaux modèles seraient plus faciles à utiliser et offriraient une plus grande précision au niveau des réponses données aux questions sur l’histoire et la science par exemple.
Ensemble de données
Cela irait de pair avec un ensemble de données plus vaste de 15 billiards de jetons (‘tokens’) ou points de données. Meta ne souhaite pas révéler d’où viennent toutes ces données, mais il semblerait qu’elles émanent surtout de sources anglophones. Le modèle sera désormais utilisé, entre autres, pour un assistant d’IA dans WhatsApp et Instagram, mais donc uniquement en anglais. Pour l’instant, cet assistant d’IA n’est pas encore disponible dans notre pays.
Vous avez repéré une erreur ou disposez de plus d’infos? Signalez-le ici