Das Team von ggml-org hat llama.cpp b11623 veröffentlicht. Die Version ergänzt für 2D-Faltungen auf AMD-GPUs ohne WMMA-Unterstützung einen SIMT-basierten Implicit-GEMM-Pfad. Bei kurzen Reduktionen wird dieser Pfad übersprungen. Die Release Notes nennen weder Leistungswerte noch, welche AMD-Karten davon profitieren. Downloads gibt es für macOS, iOS und mehrere Linux-Plattformen.
Warum es wichtig ist
Für Entwickler, die llama.cpp auf AMD-GPUs einsetzen, bietet das Update einen Faltungspfad, wenn WMMA nicht verfügbar ist. Wie sich das auf die Leistung auswirkt und welche Hardware unterstützt wird, bleibt laut Release Notes jedoch offen.
