Pesquisadores liderados por Bingxin Xing apresentaram a Sink‑Sparse Hybrid Attention, uma técnica que substitui a autoatenção densa em transformers de difusão pré-treinados sem retreiná-los. O método cria “máscaras sink” estáticas a partir de um pequeno conjunto de calibração e acrescenta um ramo leve de KV agrupado. No modelo Wan2.1‑T2V‑1.3B, acelera a geração de ponta a ponta em 1,54×; no Z‑Image‑Turbo, em 1,57×, mantendo qualidade comparável à dos modelos originais.
Por que importa
Uma inferência mais rápida permite que desenvolvedores gerem imagens ou vídeos a um custo menor, o que pode reduzir os gastos de aplicativos que dependem da geração de conteúdo a partir de texto.