Il team di ggml-org ha pubblicato llama.cpp b11623, aggiungendo un percorso SIMT implicit GEMM per le convoluzioni 2D sulle GPU AMD senza supporto WMMA. La modifica esclude questo percorso per le riduzioni brevi; le note di rilascio non quantificano la velocità né specificano quali schede AMD ne traggano beneficio. Sono disponibili build scaricabili per macOS, iOS e diverse piattaforme Linux.
Perché conta
Per chi sviluppa o usa llama.cpp su GPU AMD, questa novità aggiunge un percorso di convoluzione quando WMMA non è disponibile, ma le note non chiariscono l’impatto sulle prestazioni né quali componenti hardware siano supportati.
