Oossa

انتشار مدل چندوجهی Nemotron 3.5 Super VL با کوانتیزه‌سازی

مدل بینایی‌ـ‌زبانی ۱۲۰ میلیارد پارامتری، متن، تصویر و ویدئو را می‌پذیرد. NVIDIA می‌گوید نسخه NVFP4 آن نسبت به مدل BF16 به حافظه کمتری نیاز دارد.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: آخرین به‌روزرسانی: 1 دقیقه مطالعه

NVIDIA مدل NVIDIA Nemotron 3.5 Super VL NVFP4 را در Hugging Face منتشر کرده است. این مدل بینایی‌ـ‌زبانی متن، تصویر و ویدئو را به‌عنوان ورودی می‌پذیرد و وزن‌های آن با مجوز OpenMDW 1.1 برای استفاده تجاری و غیرتجاری در دسترس‌اند.

این مدل در مجموع ۱۲۰ میلیارد پارامتر دارد که در هر زمان ۱۲ میلیارد پارامتر آن فعال است و از حداکثر ۱ میلیون توکن زمینه پشتیبانی می‌کند. NVIDIA استقرار آن را روی سخت‌افزارهایی از جمله یک H200 یا دو پردازنده گرافیکی H100 فهرست کرده است؛ این شرکت می‌گوید نسخه NVFP4 در GPQA-Diamond امتیاز ۸۹٫۹۰ گرفته، درحالی‌که امتیاز نسخه BF16 آن ۸۹٫۵۲ بوده است.

چرا مهم است

توسعه‌دهندگانی که به پردازنده‌های گرافیکی پشتیبانی‌شده NVIDIA دسترسی دارند، می‌توانند از وزن‌های منتشرشده برای ساخت عامل‌های متن‌محور و بینایی استفاده کنند؛ اما منبع نه قیمتی اعلام کرده و نه نتایج بنچمارک مستقلی ارائه می‌دهد.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.