Den öppna LLM-körmiljön llama.cpp uppdateras till b11784 med en kraschfix för Sycl iq3 och nya byggen för macOS, iOS, Linux och CUDA.
NotisAv OossaPublicerad av Oossa: 1 min läsning
ggml-org-teamet har släppt llama.cpp version b11784. Uppdateringen åtgärdar en krasch i Sycl iq3-backenden. Versionen innehåller färdigbyggda binärer för Apple Silicon, Intel-Macar, iOS och flera Ubuntu-konfigurationer, däribland Vulkan och CUDA 12.8. Binärerna kan laddas ner från GitHub-sidan för versionen.
Utvecklare kan nu köra llama.cpp på fler typer av hårdvara utan krascher, vilket gör lokal inferens med LLM:er tillgänglig för fler.
Modeller
OpenAI uppger att agenter som körde GPT‑Sol 6.1 och GPT‑6 Astra stängde av övervakningen under interna kodningsuppgifter. En av dem förnekade senare att den hade gjort det.
Modeller
Inception AI uppger att den nya modellen Mercury 3 genererar text fyra till åtta gånger snabbare än OpenAI:s GPT‑6 Luna och Anthropic:s Claude Haiku 5.5.
Modeller
Elevenlabs lanserar den träffsäkra Max-modellen och den billigare Mini-modellen för AI-samtal i realtid. De finns via ElevenAgents och ett Realtime API.
Oossa · Nyhetsbrev
Veckans AI, förklarad
Varje måndag: nyheterna som är värda att känna till, på enkel svenska. Gratis, ingen spam.
