Bram Vanroy, chercheur à la KU Leuven, a créé avec Fietje un modèle de langage en néerlandais basé sur Phi 2 et susceptible de tourner sur du matériel limité.
Le projet se trouve sur Huggingface et GitHub. Il s’agit d’un modèle de langage comportant 2,8 milliards de paramètres. Vanroy a déclaré à Tweakers que son projet augmente les chances qu’un tel modèle de langage puisse également tourner sur des téléphones ou d’autres appareils sans hardware sophistiqué.
Précédemment déjà, Vanroy avait également créé GEITje Ultra, un autre modèle de langage en néerlandais, à sept milliards de paramètres. Fietje fonctionne presqu’aussi bien que GEITje 7B Ultra, tout en étant moins puissant. Sur sa page d’Huggingface, Vanroy explique qu’il ne s’agit pas d’un chatbot de pointe, mais qu’il veut savoir quel stade d’efficience des modèles de langage compacts et efficaces en néerlandais peuvent atteindre. GEITje 7B Ultra est certes plus lent, mais peut en faire plus.
Vous avez repéré une erreur ou disposez de plus d’infos? Signalez-le ici