# Valkey 9.2 inför delad cache för AI-inferens

> Den öppna datalagringstjänsten får distribuerad KV-cache och ändringar som ska minska minnesåtgången vid säkerhetskopiering, replikeringstrafiken och kostnaderna för stora sorterade mängder.

Oossa · 2026-11-19 · https://oossa.com/sv/valkey-9-2-adds-shared-caching-for-ai-inference

Valkey meddelade att version 9.2 nu är allmänt tillgänglig, tillsammans med en distribuerad nyckel-värde-cache med öppen källkod för AI-inferens. Den gör det möjligt för inferensmotorer att återanvända beräknade prompt- och samtalsdata i en GPU-flotta. Team som använder egenhanterade modeller med öppna vikter kan ansluta den via LMCache till vLLM eller SGLang.

Valkey uppger att cachen kan sänka inferenskostnaderna med upp till 40% och tiden till första token med upp till 80%. Versionen innehåller också ögonblicksbilder utan forking för att undvika minnestoppar i samband med säkerhetskopiering, samt komprimering av replikeringstrafik som enligt företaget minskar trafiken med cirka 50% till 65%.

## Fakta

- Den distribuerade cachen ansluts via LMCache till motorer som vLLM och SGLang.
- Valkey uppger att komprimering av replikeringstrafik minskar den löpande trafiken med cirka 50% till 65%.

## Varför det spelar roll

Team som kör modeller med öppna vikter på egna GPU-flottor kan testa att återanvända inferensarbete via LMCache. De utlovade besparingarna är dock företagets egna uppgifter och ingen garanti för alla arbetsbelastningar.

## Källor och referenser

1. [Valkey 9.2 Lowers Cost of AI Workloads On Existing Infrastructure Alongside New Distributed KV Caching Capability](https://www.prnewswire.com/news-releases/valkey-9-2-lowers-cost-of-ai-workloads-on-existing-infrastructure-alongside-new-distributed-kv-caching-capability-302945903.html) – PR Newswire RSS, 2026-11-19

Senast uppdaterad: 2026-11-19
