Il team ggml-org ha rilasciato llama.cpp b12024, che modifica il modo in cui viene riorganizzato il calcolo della moltiplicazione di matrici per LFM-SC: ora usa un tensore 2D anziché uno 3D. La pagina della release elenca i download per macOS, iOS e diverse configurazioni Linux, comprese le versioni per CPU e Vulkan.
Le note non specificano se la modifica per LFM-SC migliori la velocità o abbia effetti sugli altri modelli.
Perché conta
Chi usa LFM-SC con llama.cpp può provare la nuova versione, ma le note non attestano alcun miglioramento delle prestazioni.
