# TurboMamba آموزش را سریع‌تر و پیش‌بینی را دقیق‌تر می‌کند

> معماری جدید TurboMamba خطای پیش‌بینی را کاهش می‌دهد و تا ۶ برابر سریع‌تر از مدل‌های مشابه مبتنی بر Mamba اجرا می‌شود.

Oossa · 2026-10-16 · https://oossa.com/fa/turbomamba-speeds-up-training-and-inference-improves-prediction

پژوهشگران به سرپرستی Hanxin Zhang، TurboMamba را معرفی کردند؛ معماری‌ای برای مدل‌های زبانی که یک بلوک سراسری Mamba‑3 را با یک ترنسفورمر کوچک برای هر بلوک توکن ترکیب می‌کند. این ترکیب سه بهبود کم‌هزینه دارد: دسترسی مستقیم به آخرین توکن بلوک قبلی، اصلاح جزئی امتیاز و ترکیبی یادگرفتنی از بسامد توکن‌های اخیر. آزمایش‌ها روی مجموعه‌داده عمومی FineWeb‑Edu نشان می‌دهد TurboMamba از دوازده مدل پایه، از جمله ترنسفورمرهای استاندارد و گونه‌های Mamba‑3، هم از نظر سرعت و هم دقت بهتر عمل می‌کند.

## حقایق

- میانگین NLL آزمون 9.4% کمتر از Mamba‑3 است و توان عملیاتی آموزش 2.60× بیشتر است.
- برای کاری با 32 دنباله و 256 توکن ورودی، تأخیر دسته‌ای در مقایسه با Mamba‑3، 3.12× سریع‌تر است.

## چرا مهم است

پژوهشگران می‌توانند مدل‌های زبانی را سریع‌تر و با هزینه کمتر آموزش دهند و اجرا کنند و به این ترتیب، مانع هزینه‌ای پیش روی پروژه‌های تازه هوش مصنوعی را کاهش دهند.

## منابع و ارجاع‌ها

1. [TurboMamba: Faster Inference, Faster Training, and Better Prediction with Lexical Memory](https://arxiv.org/abs/2610.20682) – arXiv cs.LG, 2026-10-16

آخرین به‌روزرسانی: 2026-10-16