Recursive ha puesto a disposición su nuevo modelo de programación, Flint, con una licencia Apache 2.0. Flint es un modelo de mezcla de expertos (MoE) con un total de 40.000 millones de parámetros, aunque solo 2.500 millones se activan para cada entrada. La empresa afirma que el modelo alcanza una precisión del 74,2 % en SWE-bench Verified, una prueba de capacidad para escribir código. Recursive también indica que Flint puede generar más de 125 tokens por segundo en un MacBook Pro con M4 Pro.
¿Qué implica Flint para los desarrolladores?
Al ser de pesos abiertos, cualquiera puede descargar los pesos del modelo y ejecutarlo localmente, sin necesidad de un servicio en la nube. Esto puede reducir los costos de los desarrolladores que necesitan un asistente de programación rápido en sus propios equipos. La velocidad indicada, de 125 tokens por segundo, significa que puede generar un fragmento de código típico en unos segundos en un MacBook reciente.
Por qué importa
Los desarrolladores ya pueden ejecutar en sus propios portátiles un modelo de programación de gran capacidad, sin pagar suscripciones a servicios de IA en la nube. La publicación de sus pesos también permite a los investigadores experimentar con el modelo sin restricciones legales. Que funcione en un portátil de consumo sugiere que Flint puede servir para la asistencia cotidiana con programación, aunque todavía no hay pruebas independientes de su velocidad y precisión.
