Oossa

Perplexity و NVIDIA روش یادگیری JOLT را معرفی کردند

این روش پس‌آموزش به مدل امکان می‌دهد خودش را آموزش دهد و مصرف توکن را در بنچمارک MATH به یک‌ششم کاهش می‌دهد.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

پژوهشگران Perplexity و NVIDIA روش JOLT را معرفی کردند؛ روشی برای یادگیری تقویتی مشترکِ معلم و شاگرد. در این رویکرد، پس از پایان مرحله اصلی آموزش، یک مدل واحد هم نقش معلم را ایفا می‌کند و هم نقش شاگرد را. JOLT در بنچمارک MATH با مصرف ۶.۵ برابر توکن آموزشی کمتر، به دقتی برابر با روش GRPO دست یافت. این نتیجه نشان می‌دهد که می‌توان بدون تغییر معماری مدل، بازدهی را افزایش داد.

چرا مهم است

پژوهشگران می‌توانند مدل‌ها را با هزینه کمتری تنظیم دقیق کنند و دسترسی آزمایشگاه‌هایی را که بودجه محاسباتی محدودی دارند به توانایی استدلال ریاضی پیشرفته آسان‌تر کنند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.