Antirez, skaparen av Redis, presenterade ds4 den 2 oktober 2026. Verktyget är en avskalad inferensmotor i C som kör avancerade modeller som DeepSeek V4, GLM 5.x och Qwen 3.8 på Mac-datorer med mycket minne samt maskiner med CUDA eller ROCm. Det använder asymmetrisk 2-bitarskvantisering och kan strömma KV-cachen till en SSD, så att långa promptar kan återupptas efter omstarter. ds4 har ett kommandoradsgränssnitt, ett lokalt HTTP-API och en inbyggd kodningsagent som alla delar samma modelltillstånd.
Varför det spelar roll
Utvecklare kan köra kraftfulla språkmodeller på egen hårdvara utan att förlita sig på externa API:er, vilket minskar fördröjningen och integritetsriskerna.
