De opensourcebibliotheek llama.cpp bevat nu een oplossing voor een Metal-GPU-bug die grote tensorvermenigvuldigingen liet mislukken. Er zijn nieuwe binaries voor macOS, iOS en Linux.
Kort berichtDoor OossaGepubliceerd door Oossa: 1 min lezen
Het team van ggml-org heeft llama.cpp versie b11575 uitgebracht. De update verhelpt een probleem met de Metal-GPU-kernel kernel_mul_mm, die bij grote tensors vastliep. De oplossing zit in nieuwe binaire pakketten voor macOS Apple Silicon, macOS Intel, iOS en verschillende Ubuntu-builds. De release verscheen op 12 okt. 2026 op GitHub.
Ontwikkelaars kunnen nu grotere taalmodellen draaien op Macs met Apple Silicon, zonder GPU-crashes.
Modellen
Meta’s nieuwe modellen Muse Wonder en Muse Wonder Full behoren tot de beste frontier-AI’s, maar zijn duurder per token.
Modellen
Het Helion-referentierack van AMD biedt plaats aan 32.768 Zen 6-cores en komt volgend jaar in een CPU-only- en een alles-in-één-uitvoering.
Modellen
Uit onderzoek van Vals AI blijkt dat opstellingen met meerdere agenten tot vijf keer zoveel tokens kunnen verbruiken als één model, voor slechts een minieme kwaliteitswinst.
Oossa · Nieuwsbrief
De AI-week, uitgelegd
Elke maandag: het nieuws dat ertoe doet, in gewone taal. Gratis, geen spam.
