Uma equipe de linguistas e engenheiros lançou um conjunto de modelos de linguagem com pesos abertos que entendem e geram textos em uólofe, idioma falado por cerca de 23 milhões de pessoas no Senegal. Os modelos têm de 0,6 a 14 bilhões de parâmetros e foram disponibilizados sob uma licença aberta, para que qualquer pessoa possa baixá-los e executá-los localmente. Segundo o artigo, as versões de 8 bilhões e 14 bilhões de parâmetros têm desempenho comparável ao de sistemas comerciais muito maiores em tarefas em uólofe, sem deixar de funcionar bem em outros idiomas.
O que diz o artigo
Os autores descrevem um processo que primeiro ajusta modelos-base com textos em uólofe e, em seguida, aplica o ajuste por instruções (para ensinar o modelo a seguir comandos) e o alinhamento por preferências (para otimizar as respostas de acordo com avaliações humanas). Eles também combinam modelos para melhorar o desempenho. Os experimentos abrangem 63 tarefas públicas e internas, incluindo tradução, perguntas e respostas e geração de texto. Os resultados mostram que os modelos de 8 bilhões e 14 bilhões de parâmetros são especialmente competitivos.
Disponibilidade
Os modelos já estão sendo testados em projetos-piloto internos de atendimento ao cliente, e o código e os pesos estão hospedados em um endereço público indicado no artigo. O artigo não menciona custos de download. Como os pesos são abertos, os usuários podem executar os modelos em seu próprio hardware, sem pagar taxas de API.
Por que importa
Para falantes de uólofe e empresas no Senegal, os modelos oferecem uma alternativa gratuita, que pode ser hospedada localmente, a serviços de API caros. Isso pode reduzir custos e evitar preocupações com a privacidade dos dados ao criar chatbots ou ferramentas de tradução. Ainda falta uma validação independente das afirmações, além dos experimentos dos próprios autores.
