Oossa

llama.cpp b11784 verhelpt Sycl iq3-crash en voegt builds toe

De open-source LLM-runner llama.cpp is bijgewerkt naar b11784. De update verhelpt een crash in Sycl iq3 en bevat nieuwe builds voor macOS, iOS, Linux en CUDA.

Kort berichtDoor Gepubliceerd door Oossa: 1 min lezen

Het team achter ggml-org heeft llama.cpp versie b11784 uitgebracht. De update verhelpt een crash in de Sycl iq3-backend. De release bevat vooraf gebouwde binaries voor Apple Silicon, Intel-Macs, iOS en verschillende Ubuntu-configuraties, waaronder Vulkan en CUDA 12.8. De binaries zijn te downloaden via de GitHub-releasepagina.

Waarom het ertoe doet

Ontwikkelaars kunnen llama.cpp nu op meer hardware gebruiken zonder crashes, waardoor lokale LLM-inferentie voor meer mensen beschikbaar komt.

Was dit artikel nuttig?
Delen

Lees ook

Oossa · Nieuwsbrief

De AI-week, uitgelegd

Elke maandag: het nieuws dat ertoe doet, in gewone taal. Gratis, geen spam.