Onderzoekers onder leiding van Bingxin Xing introduceerden Sink-Sparse Hybrid Attention, een methode om dense self-attention in vooraf getrainde diffusietransformers te vervangen zonder ze opnieuw te trainen. De techniek maakt met een kleine kalibratieset statische ‘sink masks’ en voegt een lichte pooled-KV-tak toe. Op het Wan2.1‑T2V‑1.3B-model versnelt dit de volledige generatie met 1,54× en op Z‑Image‑Turbo met 1,57×, terwijl de kwaliteit vergelijkbaar blijft met die van de oorspronkelijke modellen.
Waarom het ertoe doet
Snellere inferentie betekent dat ontwikkelaars goedkoper beelden of video kunnen genereren. Dat kan de kosten verlagen voor apps die tekst omzetten in beeldmateriaal.
