Den 30 september 2026 släpptes version b11284 av open source-biblioteket llama.cpp. Uppdateringen ändrar hur OpenVINO hanterar viktvyer och åtgärdar ett avslag på GET_ROWS som tidigare gjorde att vissa kvantiserade modeller inte fungerade. Korrigeringen för in radförskjutningar i gather-indexen, så att vyn behandlas som en vanlig konstant. I versionsinformationen listas också ett stort antal nya byggmål, från Apple Silicon för macOS till CUDA 13 på Linux och Windows.
Varför det spelar roll
Ändringen gör att fler kvantiserade LLaMA-modeller kan köras på enheter med OpenVINO utan fel.