Oossa

llama.cpp b11723 estende il contesto con FLASH_ATTN_EXT

La libreria open source llama.cpp arriva alla versione b11723 con ottimizzazioni hexagon FLASH_ATTN_EXT, che velocizzano l’inferenza con contesti ampi su CPU e Vulkan.

BreveDi Pubblicato da Oossa: 1 min di lettura

Il team ggml-org ha pubblicato llama.cpp versione b11723 il 19 ottobre 2026. L’aggiornamento introduce miglioramenti a FLASH_ATTN_EXT per gestire finestre di contesto più ampie e modelli SWA, oltre a saltare i blocchi mascherati per ridurre gli accessi alla memoria. Sono ora disponibili build binarie per macOS (Apple Silicon e Intel), iOS e diverse versioni di Ubuntu, anche con supporto alle GPU Vulkan. Le modifiche puntano a migliorare le prestazioni di modelli come gemma-4.

Perché conta

Gli sviluppatori possono eseguire modelli linguistici di grandi dimensioni con contesti più ampi in modo più efficiente su CPU desktop e GPU compatibili.

Questo articolo ti è stato utile?
Condividi

Leggi anche

Oossa · Newsletter

La settimana dell'IA, spiegata

Ogni lunedì: le notizie che contano, in parole semplici. Gratis, niente spam.