ggml‑org/llama.cpp प्रोजेक्ट ने 21 Oct 2026 को b11780 संस्करण जारी किया। इसमें websockets पर चलने वाली रियलटाइम ट्रांसक्रिप्शन API दी गई है। API websocket हैंडशेक के दौरान API key की जाँच करती है और key न होने या गलत होने पर 401 लौटाती है। अब सर्वर स्लॉट सक्रिय होते ही ऑडियो स्ट्रीम शुरू हो जाती हैं, जिससे पहले सेशन को खुला रखने वाले डेडलॉक नहीं होते। यह implementation Google Assistant-शैली के Realtime schema पर आधारित है, इसलिए क्लाइंट को मॉडल की मूल sample rate पर ऑडियो भेजना होगा।
यह क्यों मायने रखता है
डेवलपर अब अपना सर्वर इंफ्रास्ट्रक्चर बनाए बिना llama.cpp का इस्तेमाल करके ऐप्स में लाइव स्पीच-टू-टेक्स्ट जोड़ सकते हैं।
