# llama.cpp में flash attention ऑपरेशन जुड़ा

> ओपन-सोर्स llama.cpp लाइब्रेरी में अब ggml‑zdnn के ज़रिए flash attention ऑपरेशन उपलब्ध है। इसकी घोषणा 20 Oct 2026 को की गई।

Oossa · 2026-10-20 · https://oossa.com/hi/llama-cpp-adds-flash-attention-operation

ggml‑org टीम ने 20 Oct 2026 को llama.cpp का संस्करण b11759 जारी किया। इस अपडेट में ggml‑zdnn बैकएंड के लिए flash attention ऑपरेशन (fattn) जोड़ा गया है और scratch slots की जगह scratch buffer pool का इस्तेमाल किया गया है। इस बदलाव पर योगदानकर्ता Aaron Teo ने हस्ताक्षर किए हैं। Flash attention बड़े भाषा मॉडल की attention गणना को तेज़ करता है।

## तथ्य

- ggml‑zdnn में flash attention ऑपरेशन (fattn) जोड़ा गया
- रिलीज़ की तारीख: 2026‑10‑20

## यह क्यों मायने रखता है

स्थानीय रूप से llama.cpp चलाने वाले उपयोगकर्ताओं के लिए flash attention अनुमान का समय घटा सकता है, जिससे चैट-आधारित मॉडल तेज़ महसूस होते हैं।

## स्रोत और संदर्भ

1. [ggml-org/llama.cpp b11759](https://github.com/ggml-org/llama.cpp/releases/tag/b11759) – llama.cpp, 2026-10-20

अंतिम अपडेट: 2026-10-20