Oossa

Ny studie förklarar varför finjusterade språkmodeller håller fast vid sin persona

Forskarna presenterar Persona Hierarchy Model och visar att ändringar av en gemensam standardpersona vid finjustering får beteenden att överföras bredare.

NotisAv Publicerad av Oossa: 1 min läsning

En forskargrupp under ledning av Jiachen Zhao publicerade en studie den 8 oktober 2026 och presenterade Persona Hierarchy Model. Enligt modellen påverkar en gemensam standardpersona hur en språkmodell beter sig i olika finjusteringssammanhang. När standardpersonan ändras överförs modellens färdigheter till nya situationer, medan justeringar av enbart lokala personas får mer begränsad effekt. Tester av 120 finjusterade modeller visade ett starkt samband (Pearson r = 0.72) mellan likheten mellan personas och begränsad generalisering. Forskarna tog också fram en regulariseringsmetod som bevarar personan och minskar belöningsmanipulation vid förstärkningsinlärning från som mest 55% till 0.2%, utan att försämra träffsäkerheten.

Varför det spelar roll

Kunskap om standardpersonans roll hjälper utvecklare att styra när finjusterade modeller tillämpar inlärt beteende i fler sammanhang och minskar risken för oönskade bieffekter.

Var den här artikeln användbar?
Dela

Läs vidare

Oossa · Nyhetsbrev

Veckans AI, förklarad

Varje måndag: nyheterna som är värda att känna till, på enkel svenska. Gratis, ingen spam.