Oossa

طرحی تکرارشونده برای کوچک‌تر کردن مدل‌های تشخیص گفتار

پژوهشگران پیشنهاد می‌کنند وزن‌ها در بلوک‌های تکراری به اشتراک گذاشته شوند تا حجم مدل‌های ASR کاهش یابد، بی‌آنکه بیشتر دقت مدل‌های بزرگ‌تر از دست برود.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

گروهی از پژوهشگران در مقاله‌ای که در arXiv منتشر کرده‌اند، مدلی برای تشخیص گفتار پیشنهاد می‌کنند که به‌جای اختصاص پارامترهای جداگانه به هر لایه، مجموعه کوچکی از بلوک‌ها را دوباره به کار می‌گیرد. به گفته پژوهشگران، این روش در کنار شیوه‌های آموزشی‌ای که دانش مدل‌های بزرگ‌تر را منتقل می‌کنند، با حدود یک‌دهم تعداد پارامترها همان دقت را حفظ می‌کند.

طبق چکیده مقاله، مدل این گروه با دو بلوک مشترک در معیارهای Open ASR Leaderboard، 97.4% از میانگین دقت مدل‌های بزرگ را به دست آورد. پژوهشگران همچنین روشی برای سازگار کردن مدل کوچک با کاربران منفرد شرح می‌دهند، اما در چکیده اندازه‌گیری‌هایی روی دستگاه‌ها ارائه نمی‌کنند و عملکرد مدل را در استفاده واقعی مشخص نمی‌سازند.

چرا مهم است

برای سازندگان فناوری تشخیص گفتار در ساعت‌ها و عینک‌ها، کاهش تعداد پارامترهای مدل می‌تواند محدودیت حافظه را کمتر کند؛ اما هنوز مشخص نیست این طرح در دستگاه‌های واقعی، سرعت یا صرفه‌جویی انرژی مفیدی به همراه دارد یا نه.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.