Oossa

Atenção híbrida acelera modelos de difusão de texto para imagem e vídeo

Um novo método de atenção que dispensa retreinamento reduz em até 1,57× o tempo de inferência em dois transformers de difusão, sem perda de qualidade.

NotaPor Publicado pelo Oossa: 1 min de leitura

Pesquisadores liderados por Bingxin Xing apresentaram a Sink‑Sparse Hybrid Attention, uma técnica que substitui a autoatenção densa em transformers de difusão pré-treinados sem retreiná-los. O método cria “máscaras sink” estáticas a partir de um pequeno conjunto de calibração e acrescenta um ramo leve de KV agrupado. No modelo Wan2.1‑T2V‑1.3B, acelera a geração de ponta a ponta em 1,54×; no Z‑Image‑Turbo, em 1,57×, mantendo qualidade comparável à dos modelos originais.

Por que importa

Uma inferência mais rápida permite que desenvolvedores gerem imagens ou vídeos a um custo menor, o que pode reduzir os gastos de aplicativos que dependem da geração de conteúdo a partir de texto.

Este artigo foi útil?
Compartilhar

Leia a seguir

Oossa · Newsletter

A semana em IA, explicada

Toda segunda-feira: as notícias que valem a pena, em linguagem simples. Grátis, sem spam.