# Valkey 9.2 bringt gemeinsames Caching für KI-Inferenz

> Der Open-Source-Datenspeicher ergänzt einen verteilten Key-Value-Cache und Funktionen, die den Speicherbedarf bei Backups, den Replikationsverkehr und den Overhead großer sortierter Mengen senken sollen.

Oossa · 2026-11-19 · https://oossa.com/de/valkey-9-2-adds-shared-caching-for-ai-inference

Valkey hat Version 9.2 allgemein verfügbar gemacht und zugleich einen verteilten Open-Source-Key-Value-Cache für KI-Inferenz vorgestellt. Damit können Inferenz-Engines berechnete Prompt- und Konversationsdaten in einem GPU-Verbund wiederverwenden. Teams, die selbstverwaltete Open-Weight-Modelle nutzen, können den Cache über LMCache mit vLLM oder SGLang anbinden.

Laut Valkey kann der Cache die Inferenzkosten um bis zu 40% und die Zeit bis zum ersten Token um bis zu 80% senken. Die neue Version bietet außerdem Snapshots ohne Forks, um speicherbedingte Spitzen bei Backups zu vermeiden, sowie eine Replikationskomprimierung, die den Netzwerkverkehr nach Unternehmensangaben um etwa 50% bis 65% reduziert.

## Die Fakten

- Der verteilte Cache lässt sich über LMCache an Engines wie vLLM und SGLang anbinden.
- Nach Angaben von Valkey senkt die Replikationskomprimierung den laufenden Netzwerkverkehr um etwa 50% bis 65%.

## Warum es wichtig ist

Teams, die Open-Weight-Modelle auf eigenen GPU-Flotten betreiben, können über LMCache versuchen, bereits geleistete Inferenzarbeit wiederzuverwenden. Die beworbenen Einsparungen sind jedoch Angaben des Unternehmens und keine Garantie für jede Arbeitslast.

## Quellen und Referenzen

1. [Valkey 9.2 Lowers Cost of AI Workloads On Existing Infrastructure Alongside New Distributed KV Caching Capability](https://www.prnewswire.com/news-releases/valkey-9-2-lowers-cost-of-ai-workloads-on-existing-infrastructure-alongside-new-distributed-kv-caching-capability-302945903.html) – PR Newswire RSS, 2026-11-19

Zuletzt aktualisiert: 2026-11-19
