Een team stelt op arXiv een spraakherkenningsmodel voor dat een kleine set blokken hergebruikt, in plaats van elke laag eigen parameters te geven. Volgens de onderzoekers gebruikt deze aanpak, in combinatie met trainingsmethoden die kennis uit grotere modellen overdragen, ongeveer een tiende van het aantal parameters, terwijl de nauwkeurigheid behouden blijft.
Volgens het abstract haalde hun model met twee gedeelde blokken op benchmarks van de Open ASR Leaderboard 97,4% van de gemiddelde nauwkeurigheid van grote modellen. Het team beschrijft ook een methode om het compacte model aan individuele gebruikers aan te passen, maar het abstract vermeldt geen metingen op apparaten en laat niet zien hoe het model in de praktijk presteert.
Waarom het ertoe doet
Voor wie spraakherkenning ontwikkelt voor horloges en brillen, kunnen minder modelparameters de beperkingen van het geheugen verlichten. Of dit ontwerp op echte apparaten ook bruikbare snelheids- of energiewinst oplevert, is nog onbekend.
