Op 30 september 2026 verscheen versie b11284 van de opensourcebibliotheek llama.cpp. De update past aan hoe OpenVINO gewichtsweergaven verwerkt en verhelpt een afwijzing van GET_ROWS die eerder sommige gekwantiseerde modellen onbruikbaar maakte. De oplossing verwerkt rijverschuivingen in de gather-indexen, zodat de weergave als een gewone constante wordt behandeld. De release vermeldt ook een breed scala aan nieuwe builddoelen, van Apple Silicon op macOS tot CUDA 13 op Linux en Windows.
Waarom het ertoe doet
Dankzij deze wijziging kunnen meer gekwantiseerde LLaMA-modellen zonder fouten draaien op apparaten met OpenVINO-ondersteuning.
