شرکت Recursive مدل جدید کدنویسی خود، Flint، را با مجوز Apache 2.0 عرضه کرده است. Flint مدلی از نوع ترکیب متخصصان (MoE) است که در مجموع ۴۰ میلیارد پارامتر دارد، اما برای هر ورودی فقط ۲٫۵ میلیارد پارامتر آن فعال میشود. به گفته شرکت، این مدل در آزمون SWE-bench Verified که توانایی کدنویسی را میسنجد، به دقت ۷۴٫۲٪ میرسد. Recursive همچنین میگوید Flint میتواند روی MacBook Pro مجهز به M4 Pro بیش از ۱۲۵ توکن در ثانیه تولید کند.
Flint برای توسعهدهندگان چه معنایی دارد؟
از آنجا که وزنهای Flint در دسترس عموم قرار گرفته، هر کسی میتواند آنها را دانلود کند و بدون نیاز به سرویس ابری، مدل را بهصورت محلی اجرا کند. این کار میتواند هزینه توسعهدهندگانی را که به دستیار کدنویسی سریع روی سختافزار شخصی نیاز دارند، کاهش دهد. سرعت اعلامشده ۱۲۵ توکن در ثانیه یعنی تولید یک قطعه کد معمولی روی MacBook جدید فقط چند ثانیه طول میکشد.
چرا مهم است
توسعهدهندگان اکنون میتوانند یک مدل کدنویسی پرظرفیت را روی لپتاپ خود اجرا کنند و از پرداخت هزینه اشتراک سرویسهای هوش مصنوعی ابری بینیاز شوند. انتشار وزنهای مدل همچنین به پژوهشگران امکان میدهد بدون محدودیتهای قانونی با آن آزمایش کنند. عملکرد Flint روی یک لپتاپ معمولی نشان میدهد که میتواند برای کمک روزمره در کدنویسی کاربردی باشد؛ هرچند هنوز آزمونهای مستقل سرعت و دقت آن منتشر نشده است.