# Sink-Sparse Hybrid Attention से तेज़ होंगे इमेज और वीडियो मॉडल

> ध्यान देने की इस नई विधि से दो डिफ्यूज़न ट्रांसफॉर्मर में अनुमान का समय 1.57× तक घटा, जबकि गुणवत्ता बनी रही।

Oossa · 2026-10-19 · https://oossa.com/hi/sink-sparse-hybrid-attention-speeds-up-text-to-image-and-video-diffusion-models

Bingxin Xing के नेतृत्व में शोधकर्ताओं ने Sink‑Sparse Hybrid Attention पेश किया है। यह प्रीट्रेंड डिफ्यूज़न ट्रांसफॉर्मर में डेंस सेल्फ-अटेंशन की जगह ले सकता है और इसके लिए मॉडल को दोबारा ट्रेन करने की ज़रूरत नहीं पड़ती। यह तकनीक एक छोटे कैलिब्रेशन सेट से स्थिर “सिंक मास्क” तैयार करती है और साथ में एक हल्की pooled-KV शाखा जोड़ती है। Wan2.1‑T2V‑1.3B मॉडल पर इससे शुरू से अंत तक जनरेशन 1.54× तेज़ होती है, जबकि Z‑Image‑Turbo पर रफ्तार 1.57× बढ़ती है। दोनों ही मामलों में गुणवत्ता मूल मॉडल के बराबर रहती है।

## तथ्य

- शोधपत्र 16 Oct 2026 को जमा किया गया
- Wan2.1‑T2V‑1.3B पर 1.54× और Z‑Image‑Turbo पर 1.57× तेज़ी

## यह क्यों मायने रखता है

तेज़ अनुमान से डेवलपर कम खर्च में इमेज या वीडियो बना सकते हैं। इससे टेक्स्ट से मीडिया बनाने वाले ऐप्स की लागत घट सकती है।

## स्रोत और संदर्भ

1. [Sink-Sparse Hybrid Attention for Efficient Inference in T2I/T2V Diffusion Transformers](https://arxiv.org/abs/2610.22975) – arXiv cs.CV, 2026-10-19

अंतिम अपडेट: 2026-10-19