Antirez, de maker van Redis, kondigde ds4 aan op 2 okt 2026. De tool is een gespecialiseerde inference-engine in C waarmee modellen van topniveau, zoals DeepSeek V4, GLM 5.x en Qwen 3.8, draaien op Macs met veel geheugen en machines met CUDA of ROCm. De engine gebruikt asymmetrische 2-bits kwantisering en kan de KV-cache naar een SSD wegschrijven, zodat lange prompts ook na een herstart behouden blijven. ds4 biedt een CLI, een lokale HTTP-API en een native programmeeragent, die allemaal dezelfde modelstatus delen.
Waarom het ertoe doet
Ontwikkelaars kunnen krachtige LLM’s op hun eigen hardware draaien zonder afhankelijk te zijn van externe API’s. Dat vermindert de latentie en de zorgen over gegevensprivacy.
