Oossa

Un LLM de 12B progresse sans modèle enseignant

Un agent Gemma-4 12B apprend des règles à partir de ses propres journaux et gagne jusqu’à 22 points de réussite aux tests, sans modèle enseignant.

BrèvePar Publié par Oossa: 1 min de lecture

Des chercheurs dirigés par Yujia Zhang ont publié le 13 nov. 2026 un article présentant une nouvelle boucle d’entraînement pour un LLM Gemma-4 de 12 milliards de paramètres destiné aux robots du service client. Le modèle tire ses propres règles de conduite des conversations qui ont échoué, puis les valide avant d’entraîner un adaptateur LoRA. Après deux cycles, l’agent a amélioré ses scores de réussite de 12,5 à 19,5 points aux tests du commerce de détail et du transport aérien, dépassant une version de référence qui encode les règles en dur. Cette méthode réduit l’écart de performance avec les principaux modèles de pointe.

Pourquoi c'est important

Les entreprises peuvent déployer des LLM ouverts plus petits qui améliorent eux-mêmes leur respect des règles, sans recourir à des modèles enseignants coûteux.

Cet article vous a-t-il été utile ?
Partager

À lire ensuite

Oossa · Newsletter

La semaine de l'IA, expliquée

Chaque lundi : l'essentiel de l'actualité, en langage clair. Gratuit, sans spam.