Sink-Sparse Hybrid Attention加速文生图和视频扩散模型

一种无需重新训练的新注意力方法，在两款扩散Transformer上将推理速度最高提升至1.57×，同时保持生成质量。

简讯作者： OossaOossa 发布日期: 2026年10月19日 05:43 UTC1 分钟阅读

Bingxin Xing领衔的研究团队推出了Sink-Sparse Hybrid Attention，可在不重新训练的情况下，取代预训练扩散Transformer中的稠密自注意力。该方法利用少量校准数据构建静态“sink mask”，并加入轻量级的池化KV分支。在Wan2.1‑T2V‑1.3B模型上，端到端生成速度提升1.54×；在Z‑Image‑Turbo上提升1.57×，生成质量与原模型相当。