Biblioteket llama.cpp med öppen källkod (v b11556) kan nu köra modellen Prism Bonsai 2 med 27 miljarder parametrar på macOS och Linux.
NotisAv OossaPublicerad av Oossa: 1 min läsning
ggml-org har släppt llama.cpp version b11556. Uppdateringen lägger till stöd för att köra modellen Prism Bonsai 2 27B. Den åtgärdar också hanteringen av Hadamard-tensorer och förenklar konverteringskoden. Färdigbyggda binärfiler finns för macOS (Apple Silicon och Intel) och Ubuntu (x64, arm64, s390x).
Utvecklare kan nu köra den stora modellen Prism Bonsai 2 med 27 miljarder parametrar lokalt på sina egna datorer.
Modeller
En studie från Vals AI visar att upplägg med flera agenter kan förbruka upp till fem gånger fler token än en ensam modell, utan mer än marginella kvalitetsvinster.
Modeller
Odysseys Odyssey‑3 kan nu skapa och köra 3D-världar utifrån textinstruktioner. En gratis onlinedemo finns tillgänglig, och utvecklare kan ansöka om API-åtkomst.
Modeller
Företagets nya granskare med tre Claude-baserade agenter hittade 73.43% av felen i centrala påståenden, långt fler än det tidigare bästa resultatet på 14.81%.
Oossa · Nyhetsbrev
Veckans AI, förklarad
Varje måndag: nyheterna som är värda att känna till, på enkel svenska. Gratis, ingen spam.
