Das Team von ggml-org hat llama.cpp b12032 veröffentlicht. Zum Download stehen Builds für macOS, iOS und mehrere Linux-Systeme bereit. Die Release Notes nennen eine Codeänderung: SYCL-Builds nutzen künftig PkgConfig, um Level-Zero-Header-Dateien und Bibliotheken zu finden. Änderungen an der Modellqualität oder Laufzeitgeschwindigkeit werden in den Notes nicht erwähnt.
Warum es wichtig ist
Entwickler, die llama.cpp mit SYCL bauen, erhalten möglicherweise eine weitere Möglichkeit, Level-Zero-Abhängigkeiten zu finden. Aus den Release Notes geht weder hervor, welche Setups davon profitieren, noch ob die Änderung die Leistung verbessert.
