# Soft-Prompt-Tuning sorgt dafür, dass LLM-Benchmarks Wissen statt Formatierung bewerten

> Aleph Alpha zeigt: Werden nur zehn winzige Vektoren eine Minute lang trainiert, können Basismodelle im richtigen Format antworten – und liefern so aussagekräftigere Ergebnisse.

Oossa · 2026-09-29 · https://oossa.com/de/soft-prompt-tuning-helps-llm-benchmarks-focus-on-knowledge-not-format

Aleph Alpha hat eine Methode vorgestellt, bei der nur eine Handvoll lernbarer Vektoren – sogenannte Soft Prompts – angepasst werden. Damit wird einem eingefrorenen Sprachmodell das genaue Antwortformat beigebracht, das ein Benchmark erwartet. Das Tuning dauert etwa 80 Schritte, bei einem Modell mit 7 Milliarden Parametern rund 1,5 Minuten. Die Formatierungstreue steigt dadurch auf nahezu 100 Prozent, ohne das Wissen des Modells zu verändern.

Da der Wissensscore unverändert bleibt, während sich die Formatierung verbessert, können Forschende Basismodelle fair vergleichen und vorhersagen, wie sie nach einem vollständigen Post-Training abschneiden werden. Das spart wochenlange Rechenzeit.

## Die Fakten

- 10 Soft-Prompt-Vektoren entsprechen 0,0006 % der Parameter eines 7B-Modells
- Das Training dauert etwa 80 Schritte, bei einem 7B-Modell rund 1,5 Minuten

## Warum es wichtig ist

Entwickler können Modelle schnell bewerten und einordnen, ohne ein kostspieliges vollständiges Training durchzuführen – und sich darauf konzentrieren, was das Modell tatsächlich weiß.

## Quellen und Referenzen

1. [Soft-Prompt Tuning for Fair and Efficient LLM Benchmark Evaluation](https://www.aleph-alpha.com/en/blog/soft-prompt-tuning-for-fair-and-efficient-llm-benchmark-evaluation/) – Aleph Alpha, 2026-09-29

Zuletzt aktualisiert: 2026-09-29