# Dory1.0-4B با محاسبات تکراری دقت را افزایش می‌دهد

> این مدل ۴ میلیاردپارامتری هنگام استنتاج می‌تواند بلوک مشترکش را چندبار اجرا کند؛ یعنی با محاسبات بیشتر و بدون بزرگ‌تر شدن حافظهٔ KV، دقتش را در بنچمارک‌ها بالا ببرد.

Oossa · 2026-11-04 · https://oossa.com/fa/dory1-0-4b-uses-repeatable-computation-to-boost-accuracy

پژوهشگران Dory1.0-4B را معرفی کرده‌اند؛ یک مدل زبانی ۴ میلیاردپارامتری که می‌تواند بلوک مشترکش را هنگام استنتاج چندبار اجرا کند. به این ترتیب، یک چک‌پوینت می‌تواند با مقادیر متفاوتی از محاسبات کار کند و دیگر برای هر بودجهٔ محاسباتی به مدلی بزرگ‌تر و جداگانه نیاز نیست.

طبق مقاله، اجرای دو حلقه یا بیشتر باعث شد این مدل در میانگینِ ۱۲ بنچمارک از چند مدل بزرگ‌تر بهتر عمل کند. Dory با چهار حلقه، در بنچمارک‌های عامل‌محور ۱٫۳ تا ۲٫۵ برابر کمتر از حالت تک‌حلقه‌ای توکن تولید کرد. پژوهشگران می‌گویند حجم حافظهٔ KV مدل با هر تعداد حلقه ثابت می‌ماند و چک‌پوینت‌های آن را در چهار قالب منتشر کرده‌اند.

## حقایق

- پیش‌آموزش با ۶ تریلیون توکن انجام شده و طول زمینه تا 256K توکن افزایش یافته است.
- چک‌پوینت‌های آزاد در قالب‌های BF16، MXFP8، NVFP4 و GGUF در دسترس‌اند.

## چرا مهم است

برای توسعه‌دهندگانی که در انتخاب مدل‌های آزاد هستند، Dory راهی برای صرف محاسبات بیشتر هنگام استنتاج، بدون افزایش حجم حافظهٔ KV، فراهم می‌کند؛ هرچند بهبودهای گزارش‌شده در بنچمارک‌ها مربوط به مقاله‌اند و نتیجه در همهٔ کاربردها را تضمین نمی‌کنند.

## منابع و ارجاع‌ها

1. [Dory1.0-4B: A Looped Normalized-GPT](https://arxiv.org/abs/2611.03998) – arXiv, 2026-11-04

آخرین به‌روزرسانی: 2026-11-04