Soft-Prompt-Tuning sorgt dafür, dass LLM-Benchmarks Wissen statt Formatierung bewerten

Aleph Alpha hat eine Methode vorgestellt, bei der nur eine Handvoll lernbarer Vektoren – sogenannte Soft Prompts – angepasst werden. Damit wird einem eingefrorenen Sprachmodell das genaue Antwortformat beigebracht, das ein Benchmark erwartet. Das Tuning dauert etwa 80 Schritte, bei einem Modell mit 7 Milliarden Parametern rund 1,5 Minuten. Die Formatierungstreue steigt dadurch auf nahezu 100 Prozent, ohne das Wissen des Modells zu verändern.

Da der Wissensscore unverändert bleibt, während sich die Formatierung verbessert, können Forschende Basismodelle fair vergleichen und vorhersagen, wie sie nach einem vollständigen Post-Training abschneiden werden. Das spart wochenlange Rechenzeit.