Redis’in yaratıcısı Antirez, ds4’ü 2 Ekim 2026’da duyurdu. Araç, DeepSeek V4, GLM 5.x ve Qwen 3.8 gibi son teknoloji modelleri yüksek belleğe sahip Mac’lerde, CUDA veya ROCm kullanan makinelerde çalıştıran, belirli bir amaca yönelik C tabanlı bir çıkarım motoru. Asimetrik 2 bitlik kuantizasyon kullanıyor ve KV önbelleğini SSD’ye aktarabiliyor; böylece uzun istemler yeniden başlatmalardan sonra da korunuyor. ds4, aynı model durumunu paylaşan bir komut satırı arayüzü, yerel HTTP API ve yerel bir kodlama aracısı sunuyor.
Neden önemli
Geliştiriciler güçlü LLM’leri uzak API’lere bağlı kalmadan kendi donanımlarında çalıştırabilir; böylece gecikme ve veri gizliliğine ilişkin kaygılar azalır.
