Redis के निर्माता Antirez ने 2 Oct 2026 को ds4 की घोषणा की। यह C में बना एक खास इंफरेंस इंजन है, जो अधिक मेमोरी वाले Mac और CUDA या ROCm मशीनों पर DeepSeek V4, GLM 5.x और Qwen 3.8 जैसे अत्याधुनिक मॉडल चलाता है। यह असममित 2-bit क्वांटाइज़ेशन का इस्तेमाल करता है और KV cache को SSD पर स्ट्रीम कर सकता है, जिससे लंबे प्रॉम्प्ट रीस्टार्ट के बाद भी बने रहते हैं। ds4 में CLI, स्थानीय HTTP API और नेटिव कोडिंग एजेंट दिया गया है; तीनों एक ही मॉडल स्थिति साझा करते हैं।
यह क्यों मायने रखता है
डेवलपर अपने हार्डवेयर पर शक्तिशाली LLM चला सकते हैं और रिमोट API पर निर्भरता से बच सकते हैं, जिससे देरी और डेटा गोपनीयता से जुड़ी चिंताएँ कम होती हैं।
