De open-source LLM-runtime bracht op 9 okt. 2026 nieuwe binaries uit met ondersteuning voor 128/96 flash-attention op Apple Silicon.
Kort berichtDoor OossaGepubliceerd door Oossa: 1 min lezen
Het team van ggml-org heeft llama.cpp (release b11518) op 9 okt. 2026 bijgewerkt. De update voegt 128-bit- en 96-bit-flash-attentionkernels voor Metal toe, waarmee inferentie op Macs met Apple Silicon sneller wordt. Er zijn vooraf gebouwde binaries beschikbaar om te downloaden voor macOS (arm64), macOS Intel, iOS en verschillende Linux-configuraties.
Gebruikers van Apple Silicon kunnen LLM's sneller draaien zonder extra GPU-hardware aan te schaffen.
Modellen
De nieuwe reviewer van het bedrijf, met drie op Claude gebaseerde agents, vond 73,43% van de fouten in hoofdclaims. Het vorige beste resultaat was 14,81%.
Modellen
Het nieuwe model van Mistral met één biljoen parameters scoort 38 op een onafhankelijke index, maar is per taak duurder dan concurrerende open modellen.
Modellen
OpenAI bracht twee beïnvloedingscampagnes aan het licht die met AI gemaakte inhoud gebruikten om valse verhalen in echte media te verspreiden, en blokkeerde de betrokken accounts.
Oossa · Nieuwsbrief
De AI-week, uitgelegd
Elke maandag: het nieuws dat ertoe doet, in gewone taal. Gratis, geen spam.
