Antirez, criador do Redis, anunciou o ds4 em 2 de outubro de 2026. A ferramenta é um mecanismo de inferência especializado, escrito em C, que roda modelos de ponta, como DeepSeek V4, GLM 5.x e Qwen 3.8, em Macs com muita memória e máquinas com CUDA ou ROCm. Ela usa quantização assimétrica de 2 bits e pode transferir o cache KV para um SSD, permitindo que prompts longos sejam retomados após reinicializações. O ds4 oferece uma CLI, uma API HTTP local e um agente de programação nativo, todos compartilhando o mesmo estado do modelo.
Por que importa
Desenvolvedores podem rodar LLMs poderosos em seu próprio hardware sem depender de APIs remotas, reduzindo a latência e as preocupações com a privacidade dos dados.
