Soft prompt-tuning hjälper riktmärken för språkmodeller att mäta kunskap, inte format

Aleph Alpha har lanserat en metod som justerar endast en handfull träningsbara vektorer – så kallade soft prompts – för att lära en fryst språkmodell exakt vilket svarsformat ett riktmärke kräver. Finjusteringen tar omkring 80 steg, motsvarande ungefär 1,5 minut för en modell med 7 miljarder parametrar, och ökar träffsäkerheten i formatföljandet till nära 100 procent utan att ändra modellens kunskaper.

Eftersom modellens kunskapsresultat förblir oförändrat samtidigt som formateringen förbättras kan forskare jämföra basmodeller på ett rättvist sätt och förutsäga hur de kommer att rankas efter fullständig efterträning – och därmed spara veckor av beräkningstid.