DwarfStar、大規模言語モデルをローカルで動かすds4を公開

Redisの開発者であるAntirezは2026年10月2日、ds4を発表した。DeepSeek V4、GLM 5.x、Qwen 3.8などの最先端モデルを、メモリを多く搭載したMacやCUDAまたはROCm対応マシンで実行する、用途を絞ったC言語製の推論エンジンだ。非対称2ビット量子化を採用し、KVキャッシュをSSDにストリーミングできるため、長いプロンプトも再起動後に引き継げる。ds4にはCLI、ローカルHTTP API、ネイティブのコーディングエージェントが用意されており、いずれも同じモデル状態を共有する。