Ein Team unter Leitung von Amr Abdelkhalik untersuchte den Audioencoder mit 305 Millionen Parametern, der in Gemma 4 und EmbeddingGemma 2 zum Einsatz kommt. Die Gewichte des Encoders blieben unverändert. Trainiert wurde entweder ein CTC-Decoder mit 22,6 Millionen Parametern (eingefrorenes System) oder ein System mit zusätzlichen 3,1 Millionen Adapterparametern und einem hybriden CTC-/Attention-Decoder mit 41,5 Millionen Parametern (angepasstes System). Im Vergleich zu Cohere Transcribe Arabic (2,07 Milliarden Parameter) erreichte das eingefrorene System bei den meisten Tests vergleichbare Zeichenfehlerraten und lief auf einer CPU 3,4-mal schneller. Bei Anrufen beim saudischen Kundenservice erzielte das angepasste System eine statistisch ähnliche Wortfehlerrate (19,20 % gegenüber 19,27 %) und übertraf unter mehreren Bedingungen einen Spracherkenner mit 0,6 Milliarden Parametern. Auf einer GPU war die Dekodierung dabei 139-mal schneller.
Warum es wichtig ist
Die Ergebnisse zeigen, dass ein eingefrorener oder leicht angepasster Gemma-4-Encoder arabische Sprache mit einer Genauigkeit nahe der kommerzieller Systeme erkennen kann – bei deutlich geringerem Rechenaufwand. Das ist interessant für Unternehmen, die kostengünstige, selbst gehostete Lösungen benötigen.
