# llama.cpp के tinyBLAS में x86 CPU के लिए BF16/FP16 सपोर्ट

> ओपन-सोर्स llama.cpp लाइब्रेरी के tinyBLAS बैकएंड में अब BF16, FP16 और FP32 टेल्स का वेक्टराइज़ेशन है, जिससे CPU पर इन्फ़रेंस तेज़ होगा।

Oossa · 2026-10-04 · https://oossa.com/hi/llama-cpp-adds-bf16-fp16-support-in-tinyblas-for-x86-cpus

ggml‑org टीम ने llama.cpp का संस्करण b11398 जारी किया है। इसमें x86 प्लेटफ़ॉर्म पर tinyBLAS CPU बैकएंड में BF16, FP16 और FP32 टेल प्रोसेसिंग का सपोर्ट जोड़ा गया है। तेज़ गणना के लिए इन टेल्स को वेक्टराइज़ भी किया गया है। macOS (Apple Silicon और Intel), iOS और Ubuntu के कई आर्किटेक्चर के लिए पहले से बने बाइनरी उपलब्ध कराए गए हैं। इस अपडेट में रेफरेंस इम्प्लीमेंटेशन के साथ तुलना की सटीकता सुनिश्चित करने के लिए टेस्ट में बदलाव भी शामिल हैं।

## तथ्य

- संस्करण b11398 4 अक्टूबर, 2026 को जारी किया गया
- x86 के लिए tinyBLAS में BF16/FP16/FP32 टेल सपोर्ट जोड़ा गया

## यह क्यों मायने रखता है

अब डेवलपर GPU के बिना, सामान्य CPU पर LLM इन्फ़रेंस तेज़ी से चला सकते हैं।

## स्रोत और संदर्भ

1. [ggml-org/llama.cpp b11398](https://github.com/ggml-org/llama.cpp/releases/tag/b11398) – llama.cpp, 2026-10-04

अंतिम अपडेट: 2026-10-04