Ein Forschungsteam um Bingxin Xing hat Sink-Sparse Hybrid Attention vorgestellt. Die Methode ersetzt die dichte Self-Attention in vortrainierten Diffusion-Transformern, ohne dass diese neu trainiert werden müssen. Dafür erstellt sie anhand einer kleinen Kalibrierungsmenge statische „Sink Masks“ und ergänzt sie um einen schlanken Zweig mit gepoolten Key-Value-Daten. Beim Modell Wan2.1‑T2V‑1.3B beschleunigt sie die Generierung insgesamt um den Faktor 1,54, bei Z‑Image‑Turbo um den Faktor 1,57 – bei einer Qualität, die mit der der Originalmodelle vergleichbar ist.
Warum es wichtig ist
Eine schnellere Inferenz ermöglicht es Entwicklern, Bilder und Videos kostengünstiger zu erzeugen. Das kann die Kosten für Anwendungen senken, die auf Text-zu-Medien-Generierung setzen.
