# Valkey 9.2 voegt gedeelde cache voor AI-inferentie toe

> De open-sourcedatastore introduceert een gedistribueerde KV-cache en verbeteringen die het geheugengebruik bij back-ups, replicatieverkeer en de overhead van grote gesorteerde sets moeten terugdringen.

Oossa · 2026-11-19 · https://oossa.com/nl/valkey-9-2-adds-shared-caching-for-ai-inference

Valkey heeft versie 9.2 algemeen beschikbaar gemaakt en introduceert daarnaast een opensource, gedistribueerde key-valuecache voor AI-inferentie. Inference-engines kunnen daarmee berekende prompts en gespreksgegevens hergebruiken op een hele GPU-vloot. Teams die zelf open-weightmodellen beheren, kunnen de cache via LMCache koppelen aan vLLM of SGLang.

Volgens Valkey kan de cache de inferentiekosten met maximaal 40% verlagen en de tijd tot het eerste token met maximaal 80%. De release bevat ook forkless snapshots om geheugenpieken door back-ups te voorkomen en compressie van replicatieverkeer. Volgens het bedrijf vermindert die de hoeveelheid verkeer met ongeveer 50% tot 65%.

## De feiten

- De gedistribueerde cache kan via LMCache worden gekoppeld aan engines als vLLM en SGLang.
- Volgens Valkey vermindert compressie van replicatieverkeer de doorlopende verkeersstroom met ongeveer 50% tot 65%.

## Waarom het ertoe doet

Teams die open-weightmodellen op hun eigen GPU-vloten draaien, kunnen via LMCache eerder verricht inferentiewerk hergebruiken. De genoemde besparingen zijn claims van het bedrijf en geen garantie voor elke workload.

## Bronnen en referenties

1. [Valkey 9.2 Lowers Cost of AI Workloads On Existing Infrastructure Alongside New Distributed KV Caching Capability](https://www.prnewswire.com/news-releases/valkey-9-2-lowers-cost-of-ai-workloads-on-existing-infrastructure-alongside-new-distributed-kv-caching-capability-302945903.html) – PR Newswire RSS, 2026-11-19

Laatst bijgewerkt: 2026-11-19
