Amr Abdelkhalik氏が率いる研究チームは、Gemma 4とEmbeddingGemma 2に使われている3億500万パラメーターの音声エンコーダーを検証した。エンコーダーの重みは固定し、22.6MパラメーターのCTCリーダーを学習させた固定システムと、3.1Mパラメーターのアダプターに加えて41.5MパラメーターのCTC／アテンション併用リーダーを組み合わせた適応システムを用意した。パラメーター数が2.07BのCohere Transcribe Arabicと比べると、固定システムは大半のテストで文字誤り率が同等で、CPU上では3.4倍高速に動作した。適応システムは、サウジアラビアのカスタマーサービス通話で統計的に同等の単語誤り率（19.20％対19.27％）を達成し、複数の条件で0.6Bパラメーターの音声認識モデルを上回った。また、あるGPUでのデコード速度は139倍だった。
なぜ重要か
固定したGemma 4エンコーダーや軽い適応を加えたエンコーダーでも、計算負荷を大幅に抑えながら商用モデルに近い精度でアラビア語音声を認識できることが示された。費用を抑えた自社運用を必要とする企業にとって有用な結果だ。
