ALoDLM论文提出按Token难度分配计算量的扩散语言模型

由Liancheng Fang和Zhuowei Li领衔的团队于2026年10月6日发布论文，介绍了ALoDLM。这是一种根据每个Token的预测难度调整计算量的扩散语言模型。模型会迭代优化潜在表示：较容易预测的Token会较早确定，较难预测的则会经过更多轮处理。ALoDLM采用1.7 billion和8 billion参数规模进行训练，在11项基准测试中胜过所有受测扩散模型及同等规模的自回归基线模型，同时保持了快速并行解码能力。