# llama.cpp b12094 accelera il campionamento top-k su Hexagon

> La nuova versione di llama.cpp modifica il campionamento top-k sui dispositivi Hexagon: una scansione evita di ordinare i blocchi che non possono rientrare nei risultati. Non sono indicate misure dell’aumento di velocità.

Oossa · 2026-11-04 · https://oossa.com/it/llama-cpp-b12094-speeds-up-hexagon-top-k-sampling

Il team ggml-org ha pubblicato llama.cpp b12094 il 4 novembre 2026, introducendo un percorso più rapido per il campionamento top-k nel backend Hexagon. Il campionamento top-k seleziona le opzioni con i punteggi più alti durante la generazione del testo.

La modifica riguarda valori di k da 2 a 64 e righe con più di 1.024 elementi. Salta l’ordinamento dei blocchi che non possono contenere un risultato tra i migliori, ma la versione non riporta misurazioni dell’aumento di velocità.

## I fatti

- Il nuovo percorso usa un’operazione vettoriale di massimo di Hexagon per esaminare blocchi di 256 valori.
- Si applica sia all’elaborazione di una singola riga sia a quella di più righe.

## Perché conta

Chi usa llama.cpp su hardware Hexagon supportato può contare su un metodo di campionamento più efficiente per questi carichi di lavoro, anche se la versione non quantifica i miglioramenti di velocità nell’uso reale.

## Fonti e riferimenti

1. [ggml-org/llama.cpp b12094](https://github.com/ggml-org/llama.cpp/releases/tag/b12094) – llama.cpp, 2026-11-04

Ultimo aggiornamento: 2026-11-04