Oossa

Sink-Sparse Hybrid Attention accelera i modelli di diffusione

Un nuovo metodo di attenzione, senza riaddestramento, riduce fino a 1,57× i tempi di inferenza su due transformer di diffusione senza compromettere la qualità.

BreveDi Pubblicato da Oossa: 1 min di lettura

Un gruppo di ricercatori guidato da Bingxin Xing ha presentato Sink-Sparse Hybrid Attention, un metodo che sostituisce l’attenzione densa nei transformer di diffusione preaddestrati senza doverli riaddestrare. La tecnica crea «maschere sink» statiche a partire da un piccolo insieme di calibrazione e aggiunge un leggero ramo KV con pooling. Sul modello Wan2.1‑T2V‑1.3B accelera la generazione end-to-end di 1,54×, mentre su Z‑Image‑Turbo il miglioramento è di 1,57×, con una qualità paragonabile a quella dei modelli originali.

Perché conta

Un’inferenza più rapida permette agli sviluppatori di generare immagini o video a costi inferiori, riducendo le spese delle app che si basano sulla generazione di contenuti da testo.

Questo articolo ti è stato utile?
Condividi

Leggi anche

Oossa · Newsletter

La settimana dell'IA, spiegata

Ogni lunedì: le notizie che contano, in parole semplici. Gratis, niente spam.