Am 30. September 2026 hat die Open-Source-Bibliothek llama.cpp Version b11284 veröffentlicht. Das Update ändert den Umgang von OpenVINO mit Gewichtsansichten und behebt eine Zurückweisung bei GET_ROWS, durch die einige quantisierte Modelle zuvor nicht funktionierten. Dazu werden Zeilenversätze in die Gather-Indizes übernommen, sodass die Ansicht wie eine reguläre Konstante behandelt wird. In den Versionshinweisen werden außerdem zahlreiche neue Build-Ziele aufgeführt – von Apple-Silicon-Macs bis hin zu CUDA 13 unter Linux und Windows.
Warum es wichtig ist
Dank der Änderung lassen sich mehr quantisierte LLaMA-Modelle ohne Fehler auf Geräten mit OpenVINO-Unterstützung ausführen.
