ggml-org ekibi, WMMA desteği olmayan AMD GPU’larda 2D konvolüsyonlar için SIMT implicit GEMM yolu ekleyen llama.cpp b11623’ü yayımladı. Değişiklik, indirgeme işlemlerinin kısa olduğu durumlarda bu yolu da devre dışı bırakıyor. Sürüm notlarında performans artışına ilişkin ölçümler paylaşılmıyor ve hangi AMD kartlarının bu değişiklikten yararlanacağı belirtilmiyor. macOS, iOS ve çeşitli Linux platformları için indirilebilir derlemeler listeleniyor.
Neden önemli
AMD GPU’larda llama.cpp kullanan geliştiriciler için bu değişiklik, WMMA desteği olmadığında kullanılabilecek bir konvolüsyon yolu sunuyor. Ancak sürüm notlarında performansa etkisi ve desteklenen donanımlar net değil.
