Det öppna biblioteket llama.cpp har nu stöd för BF16-datatyper och GLU, vilket förbättrar prestandan på CPU och CUDA.
NotisOossaPublicerad av Oossa: 1 min läsning
Teamet bakom ggml-org har släppt llama.cpp version b11293. Uppdateringen lägger till unära BF16-operationer, GLU, binära operationer och skalningsoperationer för både CPU och CUDA. Den uppdaterar också CUDA-kärnorna för att åtgärda ett byggproblem med BF16. Uppdateringen finns för många plattformar, från macOS och Windows till Linux och Android.
Utvecklare kan nu köra llama.cpp-modeller snabbare på hårdvara med stöd för BF16, till exempel nyare GPU:er.
Senast uppdaterad: ·Markdown
Modeller
Googles nya modell Gemini 4 Argon har en gräns på 1 miljon token och kostar $2 per miljon inmatningstoken. Den är nu tillgänglig för en utvald grupp cybersäkerhetsteam.
Modeller
Google lanserar återanvändbara ”Skills” i Gemini-chatten och lägger ned den äldre funktionen Gems den 17 november 2026 för privata konton.
Modeller
Runway Research har presenterat Praxis‑1, en robotmodell med öppna vikter som tränats på video. Noble Machines, Standard Bots och Ultra testar den i ett tidigt skede.
Oossa · Nyhetsbrev
Veckans AI, förklarad
Varje måndag: nyheterna som är värda att känna till, på enkel svenska. Gratis, ingen spam.
