ggml-org ha rilasciato llama.cpp b12530, che aggiorna WebAssembly: corregge i kernel SIMD rilassati e aggiunge il supporto ai formati di modello q3_K e q6_K. La pagina della release elenca anche i download per macOS, iOS e diversi sistemi Linux.
La release include build per CPU, tra cui Ubuntu x64, arm64 e s390x. Le note non specificano in che misura le modifiche a WebAssembly incidano sulla velocità.
Perché conta
Chi sviluppa llama.cpp per WebAssembly può sfruttare il supporto aggiunto a q3_K e q6_K, anche se le note della release non quantificano eventuali variazioni delle prestazioni.