Amr Abdelkhalik liderliğindeki ekip, Gemma 4 ve EmbeddingGemma 2’de kullanılan 305 milyon parametreli ses kodlayıcısını inceledi. Kodlayıcının ağırlıklarını sabit tutarak ya 22,6 milyon parametreli bir CTC çözücü (dondurulmuş sistem) eğittiler ya da 3,1 milyon uyarlayıcı parametresiyle 41,5 milyon parametreli hibrit bir CTC/dikkat çözücü eklediler (uyarlanmış sistem). 2,07 milyar parametreli Cohere Transcribe Arabic ile karşılaştırıldığında dondurulmuş sistem, testlerin çoğunda karakter hata oranları bakımından benzer sonuçlar verdi ve CPU’da 3,4 kat daha hızlı çalıştı. Uyarlanmış sistem, Suudi Arabistan’daki müşteri hizmetleri görüşmelerinde istatistiksel açıdan benzer kelime hata oranlarına ulaştı (%19,20’ye karşı %19,27) ve bazı koşullarda 0,6 milyar parametreli bir tanıyıcıdan daha iyi performans gösterdi; ayrıca tek bir GPU’da çözümlemeyi 139 kat daha hızlı yaptı.
Neden önemli
Sonuçlar, ağırlıkları sabit tutulan veya hafifçe uyarlanan bir Gemma 4 kodlayıcısının çok daha düşük hesaplama maliyetiyle ticari modellere yakın Arapça konuşma tanıma doğruluğu sağlayabileceğini gösteriyor. Bu, uygun maliyetli ve kendi sunucularında çalıştırılabilen çözümlere ihtiyaç duyan şirketler için yararlı olabilir.
