L’ajustement par soft prompt aide les benchmarks à évaluer les connaissances plutôt que le format

Aleph Alpha a publié une méthode qui ajuste seulement quelques vecteurs apprenables — appelés soft prompts — afin d’enseigner à un modèle de langage figé le format exact attendu par un benchmark. L’ajustement nécessite environ 80 étapes, soit quelque 1,5 minute pour un modèle de 7 milliards de paramètres, et porte la précision du respect du format à près de 100 %, sans modifier les connaissances du modèle.

Comme le score de connaissances du modèle reste stable tandis que sa maîtrise du format s’améliore, les chercheurs peuvent comparer équitablement les modèles de base et prévoir leur classement après un post-entraînement complet, économisant ainsi des semaines de calcul.