Het ggml-org-team heeft llama.cpp b11598 uitgebracht. De update kan YaRN-bèta-metadata voor Laguna-modellen laden. Op de releasepagina staan downloads voor macOS, iOS en Linux, waaronder Linux-builds voor CPU en Vulkan.
De release notes leggen niet uit wat gebruikers hiervan in de praktijk merken. Ook bevatten ze geen benchmarkresultaten of verdere informatie over de ondersteuning voor Laguna-modellen.
Waarom het ertoe doet
Wie Laguna-modellen met llama.cpp gebruikt, kan nu een versie installeren die de YaRN-bèta-metadata laadt. De release notes zeggen echter niet welk praktisch verschil dat oplevert.
