A Recursive disponibilizou seu novo modelo de programação, o Flint, sob a licença Apache 2.0. O Flint é um modelo de mistura de especialistas (MoE), com 40 bilhões de parâmetros no total, mas apenas 2,5 bilhões ficam ativos para cada entrada. A empresa afirma que o modelo alcança 74,2% de precisão no benchmark SWE-bench Verified, um teste de capacidade de geração de código. A Recursive também informa que o Flint consegue gerar mais de 125 tokens por segundo em um MacBook Pro com M4 Pro.
O que o Flint representa para os desenvolvedores?
Por ser de pesos abertos, o Flint pode ser baixado e executado localmente por qualquer pessoa, sem necessidade de recorrer a um serviço em nuvem. Isso pode reduzir os custos de desenvolvedores que precisam de um assistente de programação rápido em seus próprios equipamentos. A velocidade informada de 125 tokens por segundo significa que um trecho de código típico pode ser gerado em poucos segundos em um MacBook recente.
Por que importa
Agora, desenvolvedores podem executar em seus próprios laptops um modelo de programação de grande capacidade, sem pagar assinaturas de serviços de IA na nuvem. A disponibilização dos pesos abertos também permite que pesquisadores experimentem o modelo sem restrições legais. O desempenho em um laptop de consumo sugere que o Flint é útil para tarefas cotidianas de programação, embora ainda não haja testes independentes de velocidade e precisão.
