La libreria open source llama.cpp ha rilasciato la versione b11770 il 21 ottobre 2026. L’aggiornamento aggiunge un kernel CUDA che supporta convoluzioni SSM (modello a spazio di stato) con ampiezza 7. Sono ora disponibili nuovi binari precompilati per Apple Silicon, Mac con processori Intel, iOS e diverse versioni di Ubuntu, incluse quelle per CPU, Vulkan e CUDA 12.8.
Perché conta
Grazie al nuovo kernel, gli sviluppatori possono eseguire più velocemente modelli SSM più grandi sulle GPU Nvidia.