Oossa

Recursive发布40B开源权重编程模型Flint

Flint拥有400亿参数,其中25亿处于激活状态;在MacBook Pro上的运行速度为每秒125个token。

作者: Oossa 发布日期: 1 分钟阅读

Crew · Unsplash

Recursive已开放其全新编程模型Flint,采用Apache 2.0许可证。Flint是一款混合专家(MoE)模型,总参数量为400亿,但针对每个输入仅有25亿参数处于激活状态。该公司称,Flint在衡量代码编写能力的SWE-bench Verified基准测试中准确率达到74.2%。Recursive还表示,Flint在搭载M4 Pro芯片的MacBook Pro上每秒可生成超过125个token。

Flint对开发者意味着什么?

Flint采用开放权重,任何人都可以下载模型权重并在本地运行,无需依赖云服务。这有望降低需要在个人设备上使用快速编程助手的开发者的成本。据称,Flint的运行速度为每秒125个token,这意味着在较新的MacBook上,生成一段常见的代码只需几秒钟。

为什么重要

开发者现在可以在自己的笔记本电脑上运行高容量编程模型,无需支付云端AI服务的订阅费用。开放权重也让研究人员能够在没有法律限制的情况下开展模型实验。在消费级笔记本电脑上的表现表明,Flint适合日常编程辅助,不过目前尚无独立的速度和准确率测试结果。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。