Un equipo liderado por Amr Abdelkhalik examinó el encoder de audio de 305 millones de parámetros que usan Gemma 4 y EmbeddingGemma 2. Mantuvieron fijos los pesos del encoder y entrenaron un lector CTC de 22,6 millones de parámetros (sistema congelado) o añadieron 3,1 millones de parámetros de adaptación y un lector híbrido CTC/atención de 41,5 millones (sistema adaptado). En comparación con Cohere Transcribe Arabic (2.07 B parámetros), el sistema congelado igualó las tasas de error de caracteres en la mayoría de las pruebas y funcionó 3,4 veces más rápido en CPU. El sistema adaptado obtuvo tasas de error de palabras estadísticamente similares en llamadas de atención al cliente de Arabia Saudita (19,20 % frente a 19,27 %) y superó a un reconocedor de 0.6 B parámetros en varias condiciones, con una decodificación 139 veces más rápida en una GPU.
Por qué importa
Los resultados muestran que un encoder de Gemma 4 congelado o adaptado ligeramente puede ofrecer una precisión de reconocimiento de voz en árabe cercana a la de modelos comerciales, con un costo computacional mucho menor. Esto puede ser útil para empresas que necesitan soluciones económicas y autogestionadas.
