Des chercheurs dirigés par Bingxin Xing ont présenté Sink‑Sparse Hybrid Attention, une méthode qui remplace l’auto-attention dense des transformeurs de diffusion préentraînés sans nécessiter de réentraînement. La technique crée des « masques sink » statiques à partir d’un petit jeu de calibration et ajoute une branche légère de clés-valeurs regroupées. Elle accélère la génération de bout en bout de 1,54× sur le modèle Wan2.1‑T2V‑1.3B et de 1,57× sur Z‑Image‑Turbo, avec une qualité comparable à celle des modèles d’origine.
Pourquoi c'est important
Une inférence plus rapide permet aux développeurs de générer des images ou des vidéos à moindre coût, ce qui peut réduire les dépenses des applications reposant sur la génération de contenus à partir de texte.
