Amr Abdelkhalik के नेतृत्व वाली टीम ने Gemma 4 और EmbeddingGemma 2 में इस्तेमाल होने वाले 305-मिलियन पैरामीटर के ऑडियो एन्कोडर का अध्ययन किया। उन्होंने एन्कोडर के वेट्स को स्थिर रखा और या तो 22.6 M पैरामीटर वाला CTC रीडर (फ्रोजन सिस्टम) प्रशिक्षित किया, या फिर 3.1 M अडैप्टर पैरामीटर और 41.5 M का हाइब्रिड CTC/अटेंशन रीडर जोड़ा (अडैप्टेड सिस्टम)। Cohere Transcribe Arabic (2.07 B पैरामीटर) की तुलना में फ्रोजन सिस्टम ने ज़्यादातर परीक्षणों में कैरेक्टर एरर रेट के मामले में बराबरी की और CPU पर 3.4 × तेज़ चला। सऊदी ग्राहक-सेवा कॉल में अडैप्टेड सिस्टम की वर्ड एरर रेट सांख्यिकीय रूप से समान रही (19.20 % बनाम 19.27 %) और कई स्थितियों में 0.6 B पैरामीटर वाले रिकग्नाइज़र से बेहतर रहा। एक GPU पर डिकोडिंग की रफ्तार 139 × तेज़ थी।
यह क्यों मायने रखता है
नतीजे बताते हैं कि फ्रोजन या हल्के ढंग से अडैप्ट किया गया Gemma 4 एन्कोडर बहुत कम कंप्यूट के साथ व्यावसायिक अरबी स्पीच-रिकग्निशन मॉडलों के करीब सटीकता दे सकता है। यह उन कंपनियों के लिए उपयोगी है जिन्हें किफायती, अपने सर्वर पर चलने वाले समाधान चाहिए।