ggml-org टीम ने llama.cpp b11623 जारी किया है। इसमें उन AMD GPU पर 2D convolutions के लिए SIMT implicit GEMM path जोड़ा गया है जिनमें WMMA support नहीं है। कम reductions होने पर यह path इस्तेमाल नहीं होगा। रिलीज़ नोट्स में इसकी गति के आंकड़े नहीं दिए गए हैं और न ही बताया गया है कि किन AMD कार्डों को इससे फायदा होगा। डाउनलोड के लिए macOS, iOS और Linux के कई प्लेटफॉर्म के builds उपलब्ध हैं।
यह क्यों मायने रखता है
AMD GPU पर llama.cpp चलाने वाले डेवलपरों के लिए WMMA उपलब्ध न होने पर यह convolution का एक नया path देता है। हालांकि, नोट्स से इसके प्रदर्शन पर असर और समर्थित हार्डवेयर स्पष्ट नहीं होते।
