Oossa

llama.cpp में SYCL Conv2D लेआउट की गड़बड़ी ठीक

b11815 रिलीज़ में कुछ टेन्सर लेआउट के लिए SYCL Conv2D के गलत नतीजे ठीक किए गए हैं। सभी 2,006 बैकएंड टेस्ट पास हुए।

संक्षिप्तलेखक: Oossa द्वारा प्रकाशित: 1 मिनट पढ़ना

llama.cpp प्रोजेक्ट की b11815 रिलीज़ में SYCL बैकएंड के तहत चैनल-ऑर्डर वाले इनपुट और कर्नेल के साथ द्वि-आयामी कन्वोल्यूशन (Conv2D) को संभालने का तरीका ठीक किया गया है। पहले, यह ऑपरेशन नॉन-कॉन्टिग्युअस इनपुट को गलत एलिमेंट ऑफ़सेट से पढ़ सकता था और बिना किसी चेतावनी के गलत नतीजे दे सकता था।

अब यह ऑपरेशन केवल कॉन्टिग्युअस इनपुट और कर्नेल के साथ काम करता है, जो CUDA बैकएंड के नियमों के अनुरूप है। इसके साथ इनपुट के कॉन्टिग्युअस होने की जांच भी जोड़ी गई है। प्रोजेक्ट के मुताबिक, SYCL Conv2D टेस्ट में पहले 16 विफलताएं थीं, जो अब शून्य हैं; सभी 2,006 में से 2,006 टेस्ट पास हुए।

यह क्यों मायने रखता है

llama.cpp का SYCL बैकएंड इस्तेमाल करने वाले डेवलपरों के लिए यह उस समस्या को ठीक करता है जिसमें Conv2D बिना चेतावनी के गलत नतीजे दे सकता था। हालांकि, रिलीज़ नोट्स में यह नहीं बताया गया है कि किन ऐप्लिकेशन या हार्डवेयर पर ऐसा लेआउट देखने को मिल सकता है।

क्या यह लेख उपयोगी था?
साझा करें

यह भी पढ़ें

Oossa · न्यूज़लेटर

AI का हफ़्ता, आसान भाषा में

हर सोमवार: जानने लायक खबरें, सरल भाषा में। मुफ़्त, कोई स्पैम नहीं।