De opensource-LLM-runtime voegt nieuwe voorgebouwde pakketten toe voor Apple Silicon, Intel-Macs, Ubuntu-CPU’s, Vulkan en CUDA 12.8.
Kort berichtDoor OossaGepubliceerd door Oossa: Laatst bijgewerkt: 1 min lezen
ggml‑org heeft versie b11539 van llama.cpp uitgebracht, de lichte LLM-runner die op allerlei apparaten werkt. Er zijn nieuwe binaire archieven beschikbaar voor macOS met Apple Silicon, macOS met Intel, het iOS XCFramework en verschillende Ubuntu-builds voor CPU, Vulkan en CUDA 12.8. De downloadlinks staan op de GitHub-releasepagina.
Ontwikkelaars kunnen llama.cpp nu lokaal op meer hardware gebruiken zonder het zelf te hoeven bouwen.
Modellen
De nieuwe reviewer van het bedrijf, met drie op Claude gebaseerde agents, vond 73,43% van de fouten in hoofdclaims. Het vorige beste resultaat was 14,81%.
Modellen
Het nieuwe model van Mistral met één biljoen parameters scoort 38 op een onafhankelijke index, maar is per taak duurder dan concurrerende open modellen.
Modellen
OpenAI bracht twee beïnvloedingscampagnes aan het licht die met AI gemaakte inhoud gebruikten om valse verhalen in echte media te verspreiden, en blokkeerde de betrokken accounts.
Oossa · Nieuwsbrief
De AI-week, uitgelegd
Elke maandag: het nieuws dat ertoe doet, in gewone taal. Gratis, geen spam.
