Forschende stellen Random Remask-Denoise (R²D) vor, eine Methode für die Inferenz, bei der generierte Tokens vor dem Entrauschen gelegentlich erneut maskiert werden. Laut dem Paper kann ein Modell so Decoding-Fehler erneut bearbeiten, ohne Fine-Tuning oder Feedback aus Belohnungssignalen. Die Autoren berichten von einer Genauigkeit von mehr als 97% bei schwierigen Sudoku-Rätseln und mehr als 99% bei 3-SAT. Außerdem geben sie an, dass die Methode iterative Korrektur-Baselines sowie die offizielle Q-Mode-Genauigkeit von LLaDA2.1-mini bei HumanEval+ übertraf. Diese Ergebnisse stammen aus dem Abstract des Papers; dort wird keine unabhängige Überprüfung angegeben.
Warum es wichtig ist
Forschende, die mit Modellen für maskierte Diffusion arbeiten, können untersuchen, ob erneutes Maskieren die generierten Code- und Logikantworten verbessert. Das Abstract belegt jedoch nicht, wie gut sich die Ergebnisse auf andere als die genannten Tests übertragen lassen.
