# Valkey 9.2 introduce una cache condivisa per l’inferenza AI

> Il datastore open source aggiunge una cache distribuita key-value e funzioni pensate per ridurre la memoria richiesta dai backup, il traffico di replica e l’overhead dei grandi set ordinati.

Oossa · 2026-11-19 · https://oossa.com/it/valkey-9-2-adds-shared-caching-for-ai-inference

Valkey ha annunciato la disponibilità generale della versione 9.2, insieme a una cache distribuita open source key-value per l’inferenza AI. Permette ai motori di inferenza di riutilizzare i dati già elaborati di prompt e conversazioni su un’intera flotta di GPU; i team che usano modelli open-weight autogestiti possono collegarla tramite LMCache a vLLM o SGLang.

Secondo Valkey, la cache può ridurre i costi di inferenza fino al 40% e il time-to-first-token fino all’80%. La nuova versione introduce anche snapshot senza fork, per evitare picchi di memoria durante i backup, e la compressione della replica, che secondo l’azienda riduce il traffico di circa il 50%-65%.

## I fatti

- La cache distribuita si collega tramite LMCache a motori come vLLM e SGLang.
- Secondo Valkey, la compressione della replica riduce il traffico continuo di circa il 50%-65%.

## Perché conta

I team che eseguono modelli open-weight sulle proprie flotte di GPU possono provare a riutilizzare il lavoro di inferenza tramite LMCache, ma i risparmi indicati sono stime dell’azienda e non sono garantiti per ogni carico di lavoro.

## Fonti e riferimenti

1. [Valkey 9.2 Lowers Cost of AI Workloads On Existing Infrastructure Alongside New Distributed KV Caching Capability](https://www.prnewswire.com/news-releases/valkey-9-2-lowers-cost-of-ai-workloads-on-existing-infrastructure-alongside-new-distributed-kv-caching-capability-302945903.html) – PR Newswire RSS, 2026-11-19

Ultimo aggiornamento: 2026-11-19
