En forskargrupp under ledning av Amr Abdelkhalik undersökte ljudkodaren med 305 miljoner parametrar som används i Gemma 4 och EmbeddingGemma 2. De lät kodarens vikter vara oförändrade och tränade antingen en CTC-avkodare med 22,6 miljoner parametrar (fryst system) eller lade till 3,1 miljoner adapterparametrar samt en hybridavkodare för CTC och attention med 41,5 miljoner parametrar (anpassat system). Jämfört med Cohere Transcribe Arabic (2,07 miljarder parametrar) hade det frysta systemet likvärdig teckenfelfrekvens i de flesta tester och kördes 3,4 gånger snabbare på CPU. Det anpassade systemet hade statistiskt likvärdig ordfelfrekvens på samtal till saudisk kundtjänst (19,20 % mot 19,27 %) och presterade bättre än en taligenkännare med 0,6 miljarder parametrar under flera testförhållanden, samtidigt som avkodningen var 139 gånger snabbare på en GPU.
Varför det spelar roll
Resultaten visar att en fryst eller lätt anpassad kodare från Gemma 4 kan ge nästan kommersiell träffsäkerhet för arabisk taligenkänning med betydligt mindre beräkningskraft. Det kan vara användbart för företag som behöver kostnadseffektiva lösningar som de kan drifta själva.
