Oossa

انویدیا Nemotron‑Labs‑Sigma را معرفی کرد؛ مدل زبانی انتشار پیوسته و سریع‌تر

انویدیا ۱۴ چک‌پوینت متن‌باز از مدل‌های ۳B و ۸B منتشر کرده که تا ۴.۲ برابر سریع‌تر از مدل‌های زبانی خودرگرسیو متن تولید می‌کنند.

نویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

Museums Victoria · Unsplash

انویدیا خانواده تازه‌ای از مدل‌های زبانی به نام Nemotron‑Labs‑Sigma را معرفی کرد. این شرکت ۱۴ چک‌پوینت از نسخه‌های سه‌میلیاردپارامتری (3B) و هشت‌میلیاردپارامتری (8B) را در مخزن مدل Hugging Face منتشر کرده است. این مدل‌ها از فرایند انتشار پیوسته استفاده می‌کنند و متن را در فضای تعبیه‌سازی ۱۶بعدیِ آموخته‌شده، نویززدایی می‌کنند. به‌گفته انویدیا، این روش امکان تولید متن را تا ۴.۲۰ برابر سریع‌تر از رمزگشایی خودرگرسیو استاندارد فراهم می‌کند.

روش انتشار چه تفاوتی دارد؟

مدل‌های زبانی بزرگ (LLM) معمولاً توکن‌ها را یکی‌یکی تولید می‌کنند؛ روشی که رمزگشایی خودرگرسیو نام دارد. Nemotron‑Labs‑Sigma در عوض با بازنمایی نویزیِ کل جمله شروع می‌کند و به‌تدریج نویز را حذف می‌کند؛ رویکردی شبیه به کاری که مدل‌های انتشار تصویر برای ساختن تصاویر انجام می‌دهند. چون فرایند انتشار در فضایی کم‌بعد اجرا می‌شود، انویدیا می‌تواند آن را در چند گام محدود فشرده کند؛ برای مدل 3B، حتی با دو گذر رو‌به‌جلو. این کار کیفیت را هم بالا نگه می‌دارد. این شرکت همچنین برای چک‌پوینت 8B حالت «حدس‌زننده» تک‌مرحله‌ای اضافه کرده که در آزمون GB200، توان عملیاتی را ۳.۵ برابر دیگر افزایش می‌دهد.

عملکرد در آزمون‌ها

در مقاله‌ای که این مدل‌ها را معرفی می‌کند، نویسندگان Sigma را در مجموعه‌ای از وظایف با مدل‌های انتشار گسسته پیشرفته و مدل‌های پایه خودرگرسیو استاندارد مقایسه کردند. پس از پیش‌آموزش، Sigma در آزمون‌های ریاضی و کدنویسی مانند GSM8K، HumanEval و MBPP از رقبا بهتر عمل کرد. پس از تنظیم دقیق نظارت‌شده، برتری آن در مسائل دشوارتری مانند MATH‑500 و AIME بیشتر شد و بزرگ‌ترین بهبودها در تولید کد دیده شد. نسخه‌های فشرده‌شده با چند گام، در وظایف ریاضی حدود ۸ برابر و در وظایف کدنویسی ۴ برابر سرعت بیشتری داشتند و دقت فقط اندکی کاهش یافت.

چرا مهم است

برای توسعه‌دهندگانی که به پاسخ‌های سریع نیاز دارند—مثلاً سازندگان دستیارهای کدنویسی یا چت‌بات‌های بلادرنگ—رمزگشایی سریع‌تر Sigma می‌تواند تأخیر و هزینه‌های ابری را کاهش دهد. چک‌پوینت‌های متن‌باز نیز به پژوهشگران امکان می‌دهند بدون ساخت مدل از ابتدا، تولید مبتنی بر انتشار را آزمایش کنند. ادعاهای سرعت هنوز مستقلاً راستی‌آزمایی نشده‌اند؛ بنابراین نتایج در کاربردهای واقعی ممکن است متفاوت باشد.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.