Das Release b11977 von ggml-orgs llama.cpp behebt den Umgang des OpenVINO-Backends mit SCALE-Operationen auf Tensor-Teilansichten. Zuvor konnte eine Ansicht mit Strides wie der vollständige Ausgangstensor behandelt werden. Das führte zu einem übergroßen Ergebnis und konnte Tests zum Absturz bringen.
Die Korrektur verarbeitet die Ansicht als Ausschnitt und weist In-place-SCALE-Operationen auf nicht zusammenhängenden Ansichten zurück. Beim Zurückschreiben des Ergebnisses könnten sonst falsche Elemente überschrieben werden. Das Release bietet außerdem Builds für Plattformen wie macOS, Linux, Android und Windows.
Warum es wichtig ist
Für Entwickler, die im OpenVINO-Backend von llama.cpp Tensor-Teilansichten verwenden, behebt das Update einen Fehler, der Tests zum Absturz bringen oder Ergebnisse in falsche Elemente schreiben konnte.
