# L’ajustement par soft prompt aide les benchmarks à évaluer les connaissances plutôt que le format

> Aleph Alpha montre qu’entraîner seulement dix minuscules vecteurs pendant une minute suffit à faire répondre les modèles de base dans le bon format et à obtenir des scores plus clairs.

Oossa · 2026-09-29 · https://oossa.com/fr/soft-prompt-tuning-helps-llm-benchmarks-focus-on-knowledge-not-format

Aleph Alpha a publié une méthode qui ajuste seulement quelques vecteurs apprenables — appelés soft prompts — afin d’enseigner à un modèle de langage figé le format exact attendu par un benchmark. L’ajustement nécessite environ 80 étapes, soit quelque 1,5 minute pour un modèle de 7 milliards de paramètres, et porte la précision du respect du format à près de 100 %, sans modifier les connaissances du modèle.

Comme le score de connaissances du modèle reste stable tandis que sa maîtrise du format s’améliore, les chercheurs peuvent comparer équitablement les modèles de base et prévoir leur classement après un post-entraînement complet, économisant ainsi des semaines de calcul.

## Les faits

- 10 vecteurs de soft prompt représentent 0,0006 % des paramètres d’un modèle de 7 B
- L’entraînement prend environ 80 étapes, soit quelque 1,5 minute sur un modèle de 7 B

## Pourquoi c'est important

Cette méthode permet aux développeurs d’évaluer et de classer rapidement les modèles sans recourir à un entraînement complet coûteux, en se concentrant sur ce que le modèle sait réellement.

## Sources et références

1. [Soft-Prompt Tuning for Fair and Efficient LLM Benchmark Evaluation](https://www.aleph-alpha.com/en/blog/soft-prompt-tuning-for-fair-and-efficient-llm-benchmark-evaluation/) – Aleph Alpha, 2026-09-29

Dernière mise à jour: 2026-09-29