پژوهشگران روش Random Remask-Denoise (R²D) را معرفی میکنند؛ روشی هنگام استنتاج که گاهی توکنهای تولیدشده را دوباره ماسک میکند و سپس آنها را از حالت ماسک خارج میکند. بهگفته مقاله، این کار به مدل اجازه میدهد بدون تنظیم دقیق یا دریافت بازخورد پاداش، خطاهای رمزگشایی را بازبینی کند. نویسندگان میگویند این روش در معماهای دشوار سودوکو به دقتی بیش از 97% و در 3-SAT به دقتی بیش از 99% رسیده است؛ همچنین مدعیاند این روش در HumanEval+ از روشهای پایه مبتنی بر اصلاح تکرارشونده و دقت رسمی Q-mode مدل LLaDA2.1-mini بهتر عمل کرده است. این نتایج در چکیده مقاله گزارش شدهاند و در همانجا اعتبارسنجی مستقلی ارائه نشده است.
چرا مهم است
پژوهشگرانی که روی مدلهای انتشارِ ماسکشده کار میکنند میتوانند بررسی کنند که آیا بازماسکگذاری، پاسخهای تولیدشده در برنامهنویسی و منطق را بهبود میدهد یا نه؛ اما چکیده نشان نمیدهد که نتایج تا چه اندازه فراتر از آزمونهای گزارششده قابل تعمیماند.