Oossa

llama.cpp väljer alltid det troligaste ordet vid nolltemperatur

Biblioteket Llama.cpp med öppen källkod använder nu girigt urval när temperaturen är noll, vilket förenklar generering med låg variation.

NotisAv Publicerad av Oossa: 1 min läsning

Projektet ggml‑org/llama.cpp släppte en ny version den 7 oktober 2026. Samplern har ändrats så att modellen alltid väljer den token som har högst sannolikhet när temperaturen är noll (girigt urval). Uppdateringen behåller den befintliga slumpmässiga samplingen vid högre temperaturer och vid anpassade sannolikhetsförfrågningar. Ändringen gäller körningar på CPU och även körvägar som använder grammatik eller budgetar för resonemang.

Varför det spelar roll

Utvecklare kan få mer förutsägbara resultat när de behöver deterministisk textgenerering, utan extra konfiguration.

Var den här artikeln användbar?
Dela

Läs vidare

Oossa · Nyhetsbrev

Veckans AI, förklarad

Varje måndag: nyheterna som är värda att känna till, på enkel svenska. Gratis, ingen spam.