Oossa

پشتیبانی Unsloth از Flint، MOSS-Image و Nemotron Bolt 4B

نسخه ۲۳ اکتبر Unsloth اجرای محلی سه مدل را ممکن می‌کند و در کنار آن، نسخه دسکتاپِ فقط چت و API تنظیم دقیق مدل‌های محلی را ارائه می‌دهد.

نویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

Daniel Eliashevskyi · Unsplash

نسخه 0.1.910-beta از Unsloth از Flint شرکت Recursive، مدل MOSS-Image شرکت OpenMOSS و Nemotron Bolt 4B شرکت NVIDIA پشتیبانی می‌کند. طبق اعلام این نسخه، کاربران می‌توانند مدل‌ها را به‌صورت محلی با Unsloth اجرا کنند. همچنین نسخه دسکتاپِ کم‌حجم‌تر و فقط چت Unsloth عرضه شده است؛ کاربران می‌توانند بعداً از بخش Settings قابلیت‌های آموزش را اضافه کنند.

Flint مدلی با 40 میلیارد پارامتر و معماری ترکیبی متخصصان است؛ در این معماری، برای هر کار فقط بخشی از پارامترها فعال می‌شوند. Unsloth می‌گوید Flint از 2.5 میلیارد پارامتر فعال استفاده می‌کند، از زمینه‌ای با 256,000 توکن پشتیبانی می‌کند و در صورت استفاده از کوانتیزه‌سازی 3-bit و زمینه‌های کوتاه، در 24 GB حافظه جا می‌شود. طبق اعلام این نسخه، امتیاز Flint در SWE-bench Pro v2 برابر با 89.7 بوده، در حالی که Qwen 3.6 امتیاز 73.8 گرفته است؛ اما تنظیمات آزمون ذکر نشده و مشخص نیست چه کسی ارزیابی را انجام داده است.

تولید تصویر و تنظیم دقیق محلی

MOSS-Image یک مدل تصویر با 5.1 میلیارد پارامتر است که می‌تواند تصویرهایی با متن انگلیسی یا چینی تولید کند. Unsloth می‌گوید این مدل روی GPUهایی با 16 GB حافظه اجرا می‌شود؛ نسخه‌های GGUF آن را می‌توان روی Macها و رایانه‌های فاقد GPU پشتیبانی‌شده نیز اجرا کرد. این نسخه مقایسه‌ای از کیفیت تصاویر یا ارقام عملکرد ارائه نمی‌کند.

Nemotron Bolt 4B نسخه‌ای تنظیم‌شده با تمرکز بر استدلال از Gemma 4 E4B محصول NVIDIA است که برای استفاده از ابزارها و پیروی از دستورها طراحی شده است. Unsloth امتیاز 63.2 را برای آن در Tau2-Bench گزارش می‌کند، در مقایسه با امتیاز 38.7 برای مدل اصلی؛ همچنین می‌گوید Gemma Nemotron 4B در 16 مورد از 21 آزمون NVIDIA از Gemma 4 E4B بهتر عمل کرده است. این نتایج به نقل از اعلامیه عرضه هستند و در پست، تنظیمات آزمون یا تأیید مستقل آن‌ها ارائه نشده است.

Unsloth همچنین می‌گوید API جدید تنظیم دقیق این شرکت برای افرادی که مدل آموزش می‌دهند، با SDK شرکت OpenAI کار می‌کند تا مجموعه‌داده‌ها بارگذاری شوند و تنظیم دقیق نظارت‌شده روی مدل‌های محلی انجام بگیرد. در اعلامیه آمده است که Unsloth Desktop رایگان و متن‌باز است و برای Windows، macOS و Linux دانلود می‌شود.

چرا مهم است

به گفته Unsloth، MOSS-Image می‌تواند برای افرادی که GPU با حافظه 16 GB دارند راهی برای تولید تصویرهای دارای متن انگلیسی یا چینی فراهم کند. رقم 24 GB حافظه برای Flint فقط در صورت کوانتیزه‌سازی 3-bit و زمینه‌های کوتاه صدق می‌کند؛ همچنین نسخه منتشرشده نتایج آزمون مستقل یا جزئیات کافی برای مقایسه قابل‌اعتماد امتیازهای بنچمارک ارائه نمی‌دهد.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.