# ixi‑sLM: फोन पर चलेगा कोरियाई AI कॉल एजेंट

> 1.2 अरब पैरामीटर वाला भाषा मॉडल अब मोबाइल चिप पर चलता है। यह क्लाउड जैसी गुणवत्ता के साथ कॉल का सारांश बनाने और जवाब देने का काम करता है।

Oossa · 2026-10-16 · https://oossa.com/hi/ix-i-slm-brings-korean-ai-call-agent-to-phones

Han‑Sang Lee और उनके सहलेखकों ने ixi‑sLM जारी किया है। यह कोरियाई स्पीच-लैंग्वेज मॉडल पूरी तरह फोन की न्यूरल प्रोसेसिंग यूनिट (NPU) पर चल सकता है। यह 1 GiB मेमोरी की सीमा में समा जाता है और हर कॉल पर फोन की CPU ऊर्जा का करीब एक चौथाई इस्तेमाल करता है। यह कई मिलियन ग्राहकों के लिए ixi‑O की AI Call Summary और AI Call Answering सेवाओं को संचालित करता है।

## बड़े मॉडल को फोन पर चलाने लायक कैसे बनाया

टीम ने शब्दावली को फोन कॉल में सबसे आम शब्दों तक सीमित कर दिया, जिससे एम्बेडिंग और लैंग्वेज-मॉडल हेड का आकार आधा रह गया। उन्होंने टोकनाइज़र को भी स्पीच के अनुरूप ढाला, जिससे कॉल के डेटा में टोकन की संख्या 18 % घट गई। ट्रांसफॉर्मर के वेट INT4 (चार-बिट इंटीजर) फ़ॉर्मैट में रखे गए हैं। साथ ही, टास्क के मुताबिक क्वांटाइज़ेशन के दौरान हर मॉड्यूल की एक्टिवेशन-संवेदनशीलता के आधार पर उसे अलग-अलग प्रिसिज़न वैल्यू दी जाती हैं। नतीजे में मॉडल का आकार 803 MiB रह गया—एक मानक FP16 मॉडल के आकार का 28 %—और यह Qualcomm तथा Apple के NPU पर चलता है।

## क्लाउड मॉडल से तुलना में प्रदर्शन

परीक्षणों में, डिवाइस पर चलने वाले मॉडल ने अत्याधुनिक क्लाउड बड़े भाषा मॉडल (LLM) की टास्क-वेटेड गुणवत्ता का 94 % हासिल किया। NPU पर ले जाने के बाद कुल गुणवत्ता में मामूली गिरावट आई, जबकि हर कॉल पर ऊर्जा की खपत CPU के आधार स्तर की 23 % रह गई।

## तथ्य

- ixi‑sLM 1.2 अरब पैरामीटर वाला कोरियाई स्पीच-लैंग्वेज मॉडल है।
- डिवाइस पर चलने वाला संस्करण 803 MiB जगह लेता है (FP16 मॉडल का 28 %) और 1 GiB की मेमोरी सीमा के भीतर रहता है।
- यह INT4 वेट और मिक्स्ड-प्रिसिज़न क्वांटाइज़ेशन के साथ Qualcomm तथा Apple के NPU पर चलता है।
- AI Call Summary और Answering के लिए यह मॉडल क्लाउड LLM की टास्क-वेटेड गुणवत्ता का 94 % हासिल करता है।
- हर कॉल पर ऊर्जा की खपत CPU के आधार स्तर की 23 % है, और यह सेवा पहले से ही ixi‑O के कई मिलियन उपयोगकर्ताओं को उपलब्ध है।

## यह क्यों मायने रखता है

अब फोन उपयोगकर्ता ऑडियो क्लाउड पर भेजे बिना AI से कॉल का सारांश और जवाब पा सकते हैं। इससे बातचीत निजी रहती है और डेटा शुल्क से भी बचा जा सकता है। कम ऊर्जा खपत का मतलब है कि यह सुविधा बैटरी जल्दी खत्म नहीं करेगी। हालांकि, शोधपत्र में गुणवत्ता के स्वतंत्र, तीसरे पक्ष के परीक्षण नहीं दिए गए हैं, इसलिए अलग-अलग तरह की कॉल पर इसका वास्तविक प्रदर्शन अभी अनिश्चित है।

## स्रोत और संदर्भ

1. [ixi-sLM: On-Device sLM for AI Call Agent Service](https://arxiv.org/abs/2610.19382) – arXiv, 2026-10-15

अंतिम अपडेट: 2026-10-16