Een team onder leiding van Amr Abdelkhalik onderzocht de audio-encoder met 305 miljoen parameters die wordt gebruikt in Gemma 4 en EmbeddingGemma 2. De gewichten van de encoder bleven ongewijzigd. Vervolgens trainden de onderzoekers een CTC-lezer met 22,6 miljoen parameters (het bevroren systeem), of voegden ze 3,1 miljoen adapterparameters en een hybride CTC-/aandachtslezer met 41,5 miljoen parameters toe (het aangepaste systeem). Vergeleken met Cohere Transcribe Arabic (2,07 miljard parameters) behaalde het bevroren systeem in de meeste tests vergelijkbare karakterfoutpercentages en werkte het 3,4 × sneller op een CPU. Op gesprekken met de klantenservice in Saoedi-Arabië behaalde het aangepaste systeem statistisch vergelijkbare woordfoutpercentages (19,20% tegenover 19,27%). Ook presteerde het in verschillende omstandigheden beter dan een spraakherkenner met 0,6 miljard parameters, terwijl het op één GPU 139 × sneller transcribeerde.
Waarom het ertoe doet
De resultaten laten zien dat een bevroren of licht aangepaste Gemma 4-encoder Arabische spraak bijna net zo nauwkeurig kan herkennen als commerciële modellen, met veel minder rekenkracht. Dat kan interessant zijn voor bedrijven die op zoek zijn naar betaalbare oplossingen die ze zelf kunnen hosten.
