Команда под руководством Ляньчэна Фана и Чжувэя Ли 6 октября 2026 года опубликовала статью об ALoDLM — диффузионной языковой модели, которая распределяет вычисления в зависимости от того, насколько сложно предсказать каждый токен. Модель поэтапно уточняет латентные представления: простые токены фиксируются раньше, а на сложные тратится больше шагов. ALoDLM обучили на моделях с 1.7 миллиарда и 8 миллиардами параметров. На одиннадцати тестах она превзошла все проверенные диффузионные модели и авторегрессионные модели того же размера, сохранив при этом быстрое параллельное декодирование.
Почему это важно
Если этот подход удастся масштабировать, разработчики смогут получать более качественный текст без потери скорости. Это будет полезно для приложений, которым нужна быстрая и надежная генерация текста с помощью ИИ.
