Oossa

Um modelo recorrente pode reduzir o tamanho dos sistemas de reconhecimento de fala

Pesquisadores propõem compartilhar pesos entre blocos repetidos para reduzir o tamanho de modelos de reconhecimento automático de fala (ASR) sem perder a maior parte da precisão dos modelos maiores.

NotaPor Publicado pelo Oossa: 1 min de leitura

Uma equipe publicou no arXiv uma proposta de modelo de reconhecimento de fala que reutiliza um pequeno conjunto de blocos, em vez de atribuir parâmetros próprios a cada camada. Segundo os pesquisadores, essa abordagem, combinada a métodos de treinamento que transferem conhecimento de modelos maiores, usa cerca de um décimo dos parâmetros e mantém a precisão.

De acordo com o resumo, nos testes de referência do Open ASR Leaderboard, o modelo com dois blocos compartilhados recuperou 97,4% da precisão média dos modelos maiores. A equipe também descreve um método para adaptar o modelo compacto a usuários individuais, mas o resumo não apresenta medições em dispositivos nem comprova seu desempenho em situações reais.

Por que importa

Para quem desenvolve reconhecimento de fala para relógios e óculos, reduzir o número de parâmetros do modelo pode aliviar as limitações de memória. Ainda não se sabe se esse projeto oferece ganhos relevantes de velocidade ou economia de energia em dispositivos reais.

Este artigo foi útil?
Compartilhar

Leia a seguir

Oossa · Newsletter

A semana em IA, explicada

Toda segunda-feira: as notícias que valem a pena, em linguagem simples. Grátis, sem spam.