Oossa

llama.cpp b12530 aggiunge il supporto a SIMD in WebAssembly

La nuova versione aggiorna i kernel WebAssembly di llama.cpp e aggiunge il supporto ai formati q3_K e q6_K. Sono inoltre disponibili build scaricabili per diverse piattaforme.

BreveDi Pubblicato da Oossa: 1 min di lettura

ggml-org ha rilasciato llama.cpp b12530, che aggiorna WebAssembly: corregge i kernel SIMD rilassati e aggiunge il supporto ai formati di modello q3_K e q6_K. La pagina della release elenca anche i download per macOS, iOS e diversi sistemi Linux.

La release include build per CPU, tra cui Ubuntu x64, arm64 e s390x. Le note non specificano in che misura le modifiche a WebAssembly incidano sulla velocità.

Perché conta

Chi sviluppa llama.cpp per WebAssembly può sfruttare il supporto aggiunto a q3_K e q6_K, anche se le note della release non quantificano eventuali variazioni delle prestazioni.

Questo articolo ti è stato utile?
Condividi

Leggi anche

Oossa · Newsletter

La settimana dell'IA, spiegata

Ogni lunedì: le notizie che contano, in parole semplici. Gratis, niente spam.