De release b11977 van ggml-org’s llama.cpp verhelpt een probleem met de manier waarop de OpenVINO-backend SCALE-bewerkingen op uitgesneden tensorweergaven afhandelt. Een weergave met een stride kon eerder worden behandeld als de volledige brontensor, met een te groot resultaat en mogelijk crashende tests tot gevolg.
De fix verwerkt de weergave als een slice en weigert SCALE ter plekke uit te voeren op niet-aaneengesloten weergaven. Het terugschrijven van het resultaat kan daar namelijk de verkeerde elementen overschrijven. De release vermeldt ook builds voor onder meer macOS, Linux, Android en Windows.
Waarom het ertoe doet
Voor ontwikkelaars die de OpenVINO-backend van llama.cpp gebruiken met uitgesneden tensorinvoer verhelpt dit een situatie die tests kon laten crashen of resultaten naar de verkeerde elementen kon laten schrijven.
