Il runtime open source per LLM aggiunge nuovi pacchetti precompilati per Apple Silicon, Mac Intel, CPU Ubuntu, Vulkan e CUDA 12.8.
BreveDi OossaPubblicato da Oossa: Ultimo aggiornamento: 1 min di lettura
ggml‑org ha pubblicato la versione b11539 di llama.cpp, il runtime leggero per LLM che funziona su molti dispositivi. Sono disponibili nuovi archivi binari per macOS con Apple Silicon, macOS con processori Intel, iOS XCFramework e diverse versioni di Ubuntu per CPU, Vulkan e CUDA 12.8. I link per il download sono sulla pagina della release su GitHub.
Gli sviluppatori possono ora eseguire llama.cpp localmente su più hardware senza doverlo compilare.
Modelli
Il nuovo sistema di revisione basato su Claude e composto da tre agenti ha individuato il 73,43% degli errori nelle affermazioni principali, superando di gran lunga il precedente record del 14,81%.
Modelli
Il nuovo modello di Mistral, con un trilione di parametri, ottiene 38 in un indice indipendente, ma costa più dei modelli open concorrenti per ogni attività.
Modelli
OpenAI ha denunciato due campagne di influenza che hanno usato contenuti generati dall’IA per far pubblicare false notizie su media reali e ha bloccato gli account coinvolti.
Oossa · Newsletter
La settimana dell'IA, spiegata
Ogni lunedì: le notizie che contano, in parole semplici. Gratis, niente spam.
