Det öppna biblioteket llama.cpp stöder nu flera nya lågprecisionsformat med WebGPU. Färdiga binärer finns för macOS, Linux och iOS.
NotisAv OossaPublicerad av Oossa: 1 min läsning
Teamet ggml-org har släppt llama.cpp version b11406. Uppdateringen lägger till WebGPU-stöd för kvantiseringsvägarna MMVQ Q1_0, Q5_0, Q5_1, Q3_K, Q5_K, Q6_K och MXFP4. I releasen ingår också färdiga binärer för macOS (Apple Silicon och Intel), iOS och flera Ubuntu-varianter (CPU, Vulkan och CUDA).
Utvecklare kan nu köra fler minnessnåla LLM:er i webbläsare eller på GPU:er med WebGPU, vilket gör att llama.cpp kan användas på fler plattformar.
Modeller
Uppdateringen lägger till 14 röster, däribland hindi och finska. Befintliga användare av generativa röster får den utan kodändringar eller prishöjning.
Modeller
Uber uppger att hela den globala personalstyrkan ska använda ChatGPT Work efter ett tidigare pilotprojekt med 1 000 personer. Företaget har inte uppgett vad utrullningen kostar.
Modeller
Den nya kartan Forest Typology 2020 visar varje 10‑metersyta som naturlig skog, planterad skog eller jordbruksmark med träd, samt årliga förändringar från 2017 till 2025.
Oossa · Nyhetsbrev
Veckans AI, förklarad
Varje måndag: nyheterna som är värda att känna till, på enkel svenska. Gratis, ingen spam.
