I ricercatori presentano Random Remask-Denoise (R²D), un metodo applicato al momento dell’inferenza che, in alcuni casi, rimaschera i token generati prima di procedere nuovamente alla denoising. Secondo l’articolo, così il modello può correggere gli errori di decodifica senza essere sottoposto a fine-tuning né ricevere feedback basati su ricompense. Gli autori riportano un’accuratezza superiore al 97% nei Sudoku difficili e al 99% su 3-SAT; affermano inoltre che il metodo ha superato i metodi di riferimento basati sulla correzione iterativa e l’accuratezza ufficiale in modalità Q di LLaDA2.1-mini su HumanEval+. Si tratta di risultati riportati nell’abstract dell’articolo, che non presenta verifiche indipendenti.
Perché conta
I ricercatori che lavorano sui modelli a diffusione mascherata possono verificare se il remasking migliora i risultati generati in programmazione e logica, ma l’abstract non dimostra quanto i risultati siano generalizzabili oltre i test riportati.
