Det öppna inferensbiblioteket Llama uppdateras till b11555. Uppdateringen åtgärdar ett problem på AVX2-processorer utan stöd för F16C och innehåller nya byggen för macOS, iOS och Linux.
NotisAv OossaPublicerad av Oossa: 1 min läsning
ggml-org har släppt llama.cpp version b11555. Uppdateringen rättar en bugg som gjorde att AVX2-processorer inte använde instruktionsuppsättningen F16C, trots att den fanns tillgänglig. I versionen ingår också nya binärpaket för Apple Silicon och Intel på macOS, iOS samt flera Ubuntu-konfigurationer, bland annat med stöd för Vulkan och CUDA 12.8.
Utvecklare som kör Llama-modeller på kompatibla processorer får snabbare inferens utan att behöva installera egna korrigeringar.
Modeller
En studie från Vals AI visar att upplägg med flera agenter kan förbruka upp till fem gånger fler token än en ensam modell, utan mer än marginella kvalitetsvinster.
Modeller
Odysseys Odyssey‑3 kan nu skapa och köra 3D-världar utifrån textinstruktioner. En gratis onlinedemo finns tillgänglig, och utvecklare kan ansöka om API-åtkomst.
Modeller
Företagets nya granskare med tre Claude-baserade agenter hittade 73.43% av felen i centrala påståenden, långt fler än det tidigare bästa resultatet på 14.81%.
Oossa · Nyhetsbrev
Veckans AI, förklarad
Varje måndag: nyheterna som är värda att känna till, på enkel svenska. Gratis, ingen spam.
