Recursive heeft zijn nieuwe programmeermodel Flint uitgebracht onder de Apache 2.0-licentie. Flint is een mixture-of-expertsmodel (MoE) met in totaal 40 miljard parameters, waarvan er voor elke invoer slechts 2,5 miljard actief zijn. Volgens het bedrijf behaalt het model een nauwkeurigheid van 74,2% op SWE-bench Verified, een test voor het schrijven van code. Recursive meldt ook dat Flint op een MacBook Pro met M4 Pro meer dan 125 tokens per seconde kan genereren.
Wat betekent Flint voor ontwikkelaars?
Omdat Flint open weights heeft, kan iedereen de modelgewichten downloaden en het model lokaal draaien, zonder een clouddienst nodig te hebben. Dat kan de kosten drukken voor ontwikkelaars die op hun eigen apparatuur een snelle programmeerassistent willen gebruiken. Met de gemelde snelheid van 125 tokens per seconde kan een gebruikelijk codefragment op een recente MacBook in enkele seconden worden gegenereerd.
Waarom het ertoe doet
Ontwikkelaars kunnen nu een programmeermodel met veel parameters op hun eigen laptop draaien en zo abonnementskosten voor cloud-AI-diensten vermijden. Dankzij de open weights kunnen onderzoekers bovendien met het model experimenteren zonder juridische beperkingen. Dat Flint op een consumentenlaptop presteert, wijst erop dat het model geschikt is als dagelijkse programmeerhulp, al zijn onafhankelijke tests van snelheid en nauwkeurigheid nog niet beschikbaar.
