Компания Recursive открыла доступ к новой модели для написания кода Flint по лицензии Apache 2.0. Flint — модель типа «смесь экспертов» (MoE) с общим числом параметров 40 млрд, из которых для обработки каждого запроса активны только 2,5 млрд. По данным компании, точность модели на тесте SWE-bench Verified, оценивающем способность писать код, составляет 74,2 %. Recursive также сообщает, что Flint генерирует более 125 токенов в секунду на MacBook Pro с чипом M4 Pro.
Что Flint даст разработчикам?
Поскольку веса Flint открыты, любой может скачать их и запускать модель локально, не пользуясь облачными сервисами. Это может снизить расходы разработчиков, которым нужен быстрый помощник для написания кода на личном компьютере. Заявленная скорость в 125 токенов в секунду позволяет сгенерировать типичный фрагмент кода за несколько секунд на современном MacBook.
Почему это важно
Теперь разработчики могут запускать мощную модель для написания кода на собственных ноутбуках и не платить за подписку на облачные ИИ-сервисы. Открытые веса также позволяют исследователям экспериментировать с моделью без юридических ограничений. Результаты на обычном ноутбуке указывают на то, что Flint может быть полезна для повседневной помощи с кодом, однако независимых тестов скорости и точности пока нет.
