Oossa

DwarfStar veröffentlicht ds4 für lokale KI-Modelle

Der Redis-Erfinder stellt ds4 vor: Die C-basierte Engine führt DeepSeek-, GLM- und Qwen-Modelle auf Macs mit viel Arbeitsspeicher und GPU-Systemen direkt auf dem Gerät aus.

KurzmeldungVon Von Oossa veröffentlicht: 1 Min. Lesezeit

Antirez, der Erfinder von Redis, hat ds4 am 2. Oktober 2026 angekündigt. Das Tool ist eine spezialisierte C-Inferenz-Engine, die Modelle der Spitzenklasse wie DeepSeek V4, GLM 5.x und Qwen 3.8 auf Macs mit viel Arbeitsspeicher sowie auf CUDA- oder ROCm-Systemen ausführt. Dabei kommen asymmetrische 2-Bit-Quantisierung und das Auslagern des KV-Caches auf eine SSD zum Einsatz. So bleiben auch lange Prompts nach einem Neustart erhalten. ds4 bietet eine Kommandozeilenschnittstelle, eine lokale HTTP-API und einen nativen Coding-Agenten, die alle denselben Modellzustand nutzen.

Warum es wichtig ist

Entwickler können leistungsstarke Sprachmodelle auf eigener Hardware ausführen, ohne auf APIs aus der Ferne angewiesen zu sein. Das verringert Latenz und Datenschutzbedenken.

War dieser Artikel hilfreich?
Teilen

Als Nächstes lesen

Oossa · Newsletter

Die KI-Woche, erklärt

Jeden Montag: die Nachrichten, die man kennen sollte – verständlich. Kostenlos, kein Spam.