De opensourcebibliotheek llama.cpp (v b11556) kan nu het Prism Bonsai 2-model met 27 miljard parameters draaien op macOS en Linux.
Kort berichtDoor OossaGepubliceerd door Oossa: 1 min lezen
ggml-org heeft versie b11556 van llama.cpp uitgebracht. De update voegt runtime-ondersteuning toe voor het Prism Bonsai 2 27B-model. Ook zijn de afhandeling van Hadamard-tensoren verbeterd en de conversiecode opgeschoond. Er zijn kant-en-klare binaries beschikbaar voor macOS (Apple Silicon en Intel) en Ubuntu (x64, arm64, s390x).
Ontwikkelaars kunnen het grote Prism Bonsai 2-model met 27 miljard parameters nu lokaal op hun eigen computer draaien.
Modellen
Uit onderzoek van Vals AI blijkt dat opstellingen met meerdere agenten tot vijf keer zoveel tokens kunnen verbruiken als één model, voor slechts een minieme kwaliteitswinst.
Modellen
Met Odyssey‑3 kan Odyssey 3D-werelden genereren en laten draaien op basis van tekstprompts. Er is een gratis online demo; ontwikkelaars kunnen API-toegang aanvragen.
Modellen
De nieuwe reviewer van het bedrijf, met drie op Claude gebaseerde agents, vond 73,43% van de fouten in hoofdclaims. Het vorige beste resultaat was 14,81%.
Oossa · Nieuwsbrief
De AI-week, uitgelegd
Elke maandag: het nieuws dat ertoe doet, in gewone taal. Gratis, geen spam.
