# Soft prompt-tuning hjälper riktmärken för språkmodeller att mäta kunskap, inte format

> Aleph Alpha visar att det räcker att träna tio små vektorer i en minut för att basmodeller ska kunna svara i rätt format och ge tydligare resultat.

Oossa · 2026-09-29 · https://oossa.com/sv/soft-prompt-tuning-helps-llm-benchmarks-focus-on-knowledge-not-format

Aleph Alpha har lanserat en metod som justerar endast en handfull träningsbara vektorer – så kallade soft prompts – för att lära en fryst språkmodell exakt vilket svarsformat ett riktmärke kräver. Finjusteringen tar omkring 80 steg, motsvarande ungefär 1,5 minut för en modell med 7 miljarder parametrar, och ökar träffsäkerheten i formatföljandet till nära 100 procent utan att ändra modellens kunskaper.

Eftersom modellens kunskapsresultat förblir oförändrat samtidigt som formateringen förbättras kan forskare jämföra basmodeller på ett rättvist sätt och förutsäga hur de kommer att rankas efter fullständig efterträning – och därmed spara veckor av beräkningstid.

## Fakta

- 10 soft-prompt-vektorer motsvarar 0,0006 % av parametrarna i en modell med 7 miljarder parametrar
- Träningen tar cirka 80 steg, ungefär 1,5 minut för en modell med 7 miljarder parametrar

## Varför det spelar roll

Det gör att utvecklare snabbt kan utvärdera och rangordna modeller utan kostsam fullständig träning, och fokusera på vad modellen faktiskt kan.

## Källor och referenser

1. [Soft-Prompt Tuning for Fair and Efficient LLM Benchmark Evaluation](https://www.aleph-alpha.com/en/blog/soft-prompt-tuning-for-fair-and-efficient-llm-benchmark-evaluation/) – Aleph Alpha, 2026-09-29

Senast uppdaterad: 2026-09-29