Den öppna LLM-miljön släppte nya binärfiler med stöd för 128/96 flash-attention för Apple Silicon den 9 okt 2026.
NotisAv OossaPublicerad av Oossa: 1 min läsning
Teamet ggml-org uppdaterade llama.cpp (version b11518) den 9 okt 2026. Uppdateringen lägger till 128-bitars och 96-bitars flash-attention-kärnor för Metal, vilket snabbar upp inferens på Mac-datorer med Apple Silicon. Förkompilerade binärfiler för macOS (arm64), macOS Intel, iOS och flera Linux-konfigurationer finns att ladda ner.
Användare med Apple Silicon kan köra LLM:er snabbare utan att köpa extra GPU-hårdvara.
Modeller
Företagets nya granskare med tre Claude-baserade agenter hittade 73.43% av felen i centrala påståenden, långt fler än det tidigare bästa resultatet på 14.81%.
Modeller
Mistrals nya modell med en biljon parametrar får 38 poäng i ett oberoende index, men kostar mer per uppgift än konkurrerande öppna modeller.
Modeller
OpenAI uppger att två påverkanskampanjer använde AI-genererat innehåll för att få in falska nyheter i etablerade medier. Företaget har stängt av de berörda kontona.
Oossa · Nyhetsbrev
Veckans AI, förklarad
Varje måndag: nyheterna som är värda att känna till, på enkel svenska. Gratis, ingen spam.
