Antirez, creador de Redis, anunció ds4 el Oct 2 2026. La herramienta es un motor de inferencia compacto escrito en C que ejecuta modelos de última generación, como DeepSeek V4, GLM 5.x y Qwen 3.8, en Macs con mucha memoria y equipos con CUDA o ROCm. Utiliza cuantización asimétrica de 2 bits y puede transmitir la caché KV a un SSD, lo que permite que las solicitudes largas sobrevivan a los reinicios. ds4 ofrece una CLI, una API HTTP local y un agente de programación nativo que comparten el mismo estado del modelo.
Por qué importa
Los desarrolladores pueden ejecutar LLM potentes en sus propios equipos sin depender de API remotas, lo que reduce la latencia y los riesgos para la privacidad de los datos.
