Oossa

llama.cpp b11804 aggiunge il supporto ad argmax per OpenCL

Il runtime open source per LLM si aggiorna con argmax da F32 a I32 per OpenCL e nuovi binari per macOS, Linux e iOS.

BreveDi Pubblicato da Oossa: 1 min di lettura

ggml‑org ha pubblicato la versione b11804 di llama.cpp il 2026‑10‑22. L’aggiornamento aggiunge una routine OpenCL che calcola argmax da numeri in virgola mobile a 32 bit a interi a 32 bit, migliorando la velocità di inferenza sulla GPU. Include inoltre nuovi binari precompilati per Apple Silicon, macOS Intel, iOS e diverse versioni di Ubuntu (CPU, Vulkan, CUDA). Le modifiche sono state realizzate da OpenCode e Li He di Qualcomm.

Perché conta

Gli sviluppatori possono ora eseguire i modelli llama.cpp più velocemente sulle GPU compatibili con OpenCL, ampliando le opzioni hardware per i progetti di IA amatoriali.

Questo articolo ti è stato utile?
Condividi

Leggi anche

Oossa · Newsletter

La settimana dell'IA, spiegata

Ogni lunedì: le notizie che contano, in parole semplici. Gratis, niente spam.