خبر کوتاه · 1 دقیقه مطالعه
مدلهای کوچکِ باز در پروژهای با آموزش محلی، سریع تصمیم میگیرند
یک کاربر ردیت مدلهای کوچکِ دارای وزنهای باز منتشر کرده است که بدون تولید متن، از میان گزینهها انتخاب میکنند و احتمال هر گزینه را برمیگردانند. به گفته این کاربر، مدل 0.8B در 28 میلیثانیه تصمیم میگیرد و مدل 2B در آزمونی با پنج معیار، امتیاز 83.1٪ گرفته است.
Oossa · درباره Oossa
این مدلها که Jeff نام دارند، نسخههای تنظیمدقیقشدهای از Qwen3.5 و Gemma برای دستهبندی و انتخابهای دیگر هستند. کافی است موقعیتی و فهرستی از گزینهها به یکی از آنها بدهید تا در یک گذر، احتمال هر گزینه را برگرداند.
سازنده میگوید مدلها را با سختافزار محلی آموزش داده و وزنهایشان را با مجوز Apache 2.0 منتشر کرده است. در مجموعهای شامل پنج معیار، مدل 2B امتیاز 83.1٪ گرفت که به امتیاز منتشرشده 83.0٪ برای Jev نزدیک است؛ بااینحال، آزمونها از نمونههای متفاوتی استفاده کردند و بنابراین امتیازها قابلمقایسه مستقیم نیستند. به نوشته این پست، Jeff در استدلال چندمرحلهای بسیار ضعیفتر عمل میکند.
چرا مهم است
مدلهای کوچکی که سریع گزینهها را برمیگردانند، میتوانند برای اپلیکیشنهایی مناسب باشند که سرعت و اجرای محلی در آنها از استدلال پیچیده مهمتر است.
منابع و ارجاعها
| # | منبع | رسانه | تاریخ | نکته اصلی |
|---|---|---|---|---|
| 1 | Trained locally: ultra-fast 0.8B/2B System 1 decision models that match Jev on benchmarks and Doom, ~30 ms per decision (open weights) ↗ | Reddit r/LocalLLaMA | ۶ مهر ۱۴۰۵ | TL;DR: The Jeff models are a set of Qwen3.5 and Gemma fine-tunes for zero-shot classification: small, efficient, open-weight models with res |
1 منبع
آخرین بهروزرسانی:
Oossa · خبرنامه
هفتهٔ هوش مصنوعی، به زبان ساده
هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.