Recursive已开放其全新编程模型Flint,采用Apache 2.0许可证。Flint是一款混合专家(MoE)模型,总参数量为400亿,但针对每个输入仅有25亿参数处于激活状态。该公司称,Flint在衡量代码编写能力的SWE-bench Verified基准测试中准确率达到74.2%。Recursive还表示,Flint在搭载M4 Pro芯片的MacBook Pro上每秒可生成超过125个token。
Flint对开发者意味着什么?
Flint采用开放权重,任何人都可以下载模型权重并在本地运行,无需依赖云服务。这有望降低需要在个人设备上使用快速编程助手的开发者的成本。据称,Flint的运行速度为每秒125个token,这意味着在较新的MacBook上,生成一段常见的代码只需几秒钟。
为什么重要
开发者现在可以在自己的笔记本电脑上运行高容量编程模型,无需支付云端AI服务的订阅费用。开放权重也让研究人员能够在没有法律限制的情况下开展模型实验。在消费级笔记本电脑上的表现表明,Flint适合日常编程辅助,不过目前尚无独立的速度和准确率测试结果。