Körmiljön för öppna LLM-modeller får nya färdigbyggda paket för Apple Silicon, Intel-Macar, Ubuntu-processorer, Vulkan och CUDA 12.8.
NotisAv OossaPublicerad av Oossa: Senast uppdaterad: 1 min läsning
ggml‑org har publicerat version b11539 av llama.cpp, en lättviktig körmiljö för LLM-modeller som fungerar på många enheter. Nya binärpaket finns för macOS med Apple Silicon, macOS med Intel, iOS XCFramework samt flera Ubuntu-byggen för CPU, Vulkan och CUDA 12.8. Nedladdningslänkarna finns på GitHub-sidan för versionen.
Utvecklare kan nu köra llama.cpp lokalt på fler typer av hårdvara utan att behöva bygga programmet själva.
Modeller
Företagets nya granskare med tre Claude-baserade agenter hittade 73.43% av felen i centrala påståenden, långt fler än det tidigare bästa resultatet på 14.81%.
Modeller
Mistrals nya modell med en biljon parametrar får 38 poäng i ett oberoende index, men kostar mer per uppgift än konkurrerande öppna modeller.
Modeller
OpenAI uppger att två påverkanskampanjer använde AI-genererat innehåll för att få in falska nyheter i etablerade medier. Företaget har stängt av de berörda kontona.
Oossa · Nyhetsbrev
Veckans AI, förklarad
Varje måndag: nyheterna som är värda att känna till, på enkel svenska. Gratis, ingen spam.
