Oossa

Sink-Sparse Hybrid Attention, difüzyon modellerini hızlandırıyor

Yeni, eğitim gerektirmeyen dikkat yöntemi, kaliteyi korurken iki difüzyon transformatöründe çıkarım süresini 1.57×’ye kadar kısaltıyor.

Kısa haberYazan: Oossa yayın tarihi: 1 dk okuma

Bingxin Xing liderliğindeki araştırmacılar, önceden eğitilmiş difüzyon transformatörlerinde yoğun öz dikkatin yeniden eğitim yapılmadan kullanılmasını sağlayan Sink-Sparse Hybrid Attention yöntemini tanıttı. Yöntem, küçük bir kalibrasyon kümesinden statik “sink maskeleri” oluşturuyor ve hafif bir havuzlanmış KV dalı ekliyor. Wan2.1‑T2V‑1.3B modelinde uçtan uca üretimi 1.54×, Z‑Image‑Turbo’da ise 1.57× hızlandırırken özgün modellerle karşılaştırılabilir kalite sunuyor.

Neden önemli

Daha hızlı çıkarım, geliştiricilerin görüntü veya videoları daha düşük maliyetle üretmesini sağlar; bu da metinden medya üretimine dayanan uygulamaların maliyetlerini düşürebilir.

Bu makale faydalı oldu mu?
Paylaş

Sıradaki okuma

Oossa · Bülten

Yapay zekâda hafta, anlaşılır dille

Her pazartesi: bilmeye değer haberler, sade bir dille. Ücretsiz, spam yok.