Команда под руководством Амра Абдельхалика изучила аудиокодировщик на 305 млн параметров, используемый в Gemma 4 и EmbeddingGemma 2. Веса кодировщика оставили без изменений и обучили либо CTC-декодер на 22,6 млн параметров (замороженная система), либо добавили 3,1 млн параметров адаптера и гибридный CTC/attention-декодер на 41,5 млн параметров (адаптированная система). По сравнению с Cohere Transcribe Arabic (2,07 млрд параметров) замороженная система показала сопоставимый уровень ошибок по символам в большинстве тестов и работала на CPU в 3,4 раза быстрее. Адаптированная система продемонстрировала статистически сопоставимый уровень ошибок по словам на записях звонков в саудовские службы поддержки клиентов (19,20 % против 19,27 %) и превзошла распознаватель на 0,6 млрд параметров в нескольких условиях, декодируя речь на одном GPU в 139 раз быстрее.
Почему это важно
Результаты показывают, что замороженный или слегка адаптированный кодировщик Gemma 4 может обеспечивать точность распознавания арабской речи, близкую к коммерческим системам, при значительно меньших вычислительных затратах. Это может быть полезно компаниям, которым нужны экономичные решения для самостоятельного размещения.
