La libreria open source llama.cpp (v b11556) ora esegue il modello Prism Bonsai 2 da 27 miliardi di parametri su macOS e Linux.
BreveDi OossaPubblicato da Oossa: 1 min di lettura
ggml-org ha rilasciato la versione b11556 di llama.cpp. L’aggiornamento aggiunge il supporto in fase di esecuzione per il modello Prism Bonsai 2 27B. Risolve inoltre i problemi di gestione dei tensori Hadamard e semplifica il codice di conversione. Sono disponibili binari precompilati per macOS (Apple Silicon e Intel) e Ubuntu (x64, arm64, s390x).
Gli sviluppatori possono ora eseguire localmente sui propri computer il grande modello Prism Bonsai 2 da 27 miliardi di parametri.
Modelli
Uno studio di Vals AI mostra che i sistemi multi-agente possono consumare fino a cinque volte più token di un singolo modello, con miglioramenti minimi nella qualità.
Modelli
Il modello Odyssey‑3 può generare e animare mondi 3D a partire da descrizioni testuali. Sono disponibili una demo online gratuita e le richieste di accesso alle API.
Modelli
Il nuovo sistema di revisione basato su Claude e composto da tre agenti ha individuato il 73,43% degli errori nelle affermazioni principali, superando di gran lunga il precedente record del 14,81%.
Oossa · Newsletter
La settimana dell'IA, spiegata
Ogni lunedì: le notizie che contano, in parole semplici. Gratis, niente spam.
