Onderzoekers beschrijven Random Remask-Denoise (R²D), een methode voor gebruik tijdens inferentie die gegenereerde tokens soms opnieuw maskeert voordat ze worden gedenoised. Volgens het paper kan een model zo decodeerfouten opnieuw bekijken, zonder fine-tuning of feedback op basis van beloningen. De auteurs melden een nauwkeurigheid van meer dan 97% op moeilijke Sudoku-puzzels en meer dan 99% op 3-SAT. Ook zeggen ze dat de methode beter presteerde dan baselines voor iteratieve correctie en dan de officiële nauwkeurigheid van de Q-modus van LLaDA2.1-mini op HumanEval+. Dit zijn resultaten die in de samenvatting van het paper worden gemeld; daarin staat geen onafhankelijke validatie.
Waarom het ertoe doet
Onderzoekers die werken aan masked diffusion-modellen kunnen nagaan of opnieuw maskeren de gegenereerde code en antwoorden op logische vragen verbetert. De samenvatting toont echter niet aan hoe goed de resultaten zich vertalen naar tests buiten de genoemde evaluaties.
