Une équipe dirigée par Amr Abdelkhalik a étudié l’encodeur audio de 305 millions de paramètres utilisé dans Gemma 4 et EmbeddingGemma 2. Elle a laissé ses poids inchangés et entraîné soit un décodeur CTC de 22,6 M de paramètres (système figé), soit ajouté 3,1 M de paramètres d’adaptateur ainsi qu’un décodeur hybride CTC/attention de 41,5 M de paramètres (système adapté). Par rapport à Cohere Transcribe Arabic (2,07 B de paramètres), le système figé a obtenu des taux d’erreur caractère comparables lors de la plupart des tests et s’est exécuté 3,4 × plus vite sur CPU. Le système adapté a affiché un taux d’erreur mot statistiquement similaire sur des appels au service client en Arabie saoudite (19,20 % contre 19,27 %) et a surpassé un système de reconnaissance de 0,6 B de paramètres dans plusieurs conditions, tout en décodant 139 × plus vite sur un GPU.
Pourquoi c'est important
Ces résultats montrent qu’un encodeur Gemma 4 figé ou adapté légèrement peut offrir une précision de reconnaissance vocale en arabe proche de celle de solutions commerciales, tout en nécessitant beaucoup moins de ressources informatiques. Une option intéressante pour les entreprises qui recherchent des solutions autonomes et économiques.
