De open-sourcebibliotheek voor LLaMA-inferentie werkt de HTTP-bibliotheek bij en brengt nieuwe builds uit voor macOS, iOS, Linux en GPU-back-ends.
Kort berichtDoor OossaGepubliceerd door Oossa: 1 min lezen
Het team van ggml‑org heeft versie b11468 van llama.cpp uitgebracht. De update brengt de meegeleverde cpp‑httplib-bibliotheek naar versie 0.60.0. Ook zijn er vooraf gebouwde binaries beschikbaar voor macOS Apple Silicon, macOS Intel, iOS en verschillende Ubuntu-varianten, waaronder builds voor CPU, Vulkan en CUDA 12.8.
Ontwikkelaars kunnen nu kant-en-klare LLaMA-binaries downloaden voor meer platforms, wat tijd bespaart bij het compileren.
Modellen
De nieuwe reviewer van het bedrijf, met drie op Claude gebaseerde agents, vond 73,43% van de fouten in hoofdclaims. Het vorige beste resultaat was 14,81%.
Modellen
Het nieuwe model van Mistral met één biljoen parameters scoort 38 op een onafhankelijke index, maar is per taak duurder dan concurrerende open modellen.
Modellen
OpenAI bracht twee beïnvloedingscampagnes aan het licht die met AI gemaakte inhoud gebruikten om valse verhalen in echte media te verspreiden, en blokkeerde de betrokken accounts.
Oossa · Nieuwsbrief
De AI-week, uitgelegd
Elke maandag: het nieuws dat ertoe doet, in gewone taal. Gratis, geen spam.
