De llama.cpp-bibliotheek bracht op 3 oktober 2026 versie b11366 uit. Die verhelpt een bug waarbij het zoeken naar de quantisatieschaal oneindige of NaN-waarden kon opleveren, met een assertion failure in Debug-builds als gevolg. De oplossing begrenst het quantisatieniveau tot een veilig bereik voordat het wordt afgerond. Ook zijn regressietests toegevoegd voor verschillende quantisatietypen. De wijziging geldt voor alle ondersteunde platforms, van macOS tot Windows en Linux.
Waarom het ertoe doet
Ontwikkelaars die llama.cpp gebruiken, krijgen minder crashes tijdens het debuggen van gequantiseerde modellen, wat de stabiliteit tijdens de ontwikkeling verbetert.
