ggml-org-teamet har släppt llama.cpp version b12124 med en ändring i OpenCL-stödet: programmet kan nu hantera sigmoid-operationer på icke-kontinuerliga data. OpenCL är ett ramverk för att köra beräkningsuppgifter på olika processorer.
På releasesidan finns också färdiga nedladdningar för macOS, iOS och Ubuntu, bland annat versioner för CPU och Vulkan. Det står inget om bredare prestandaförändringar eller vilka användare som kommer att märka någon skillnad.
Varför det spelar roll
Utvecklare som använder llama.cpp med OpenCL får tillgång till den nya operationen, men versionsinformationen visar inte om den förbättrar hastigheten eller påverkar användare i vardagen.
