# Valkey 9.2 добавляет общий кэш для ИИ-инференса

> В хранилище данных с открытым исходным кодом появились распределённый KV-кэш и функции, призванные сократить расход памяти при резервном копировании, трафик репликации и накладные расходы на большие отсортированные множества.

Oossa · 2026-11-19 · https://oossa.com/ru/valkey-9-2-adds-shared-caching-for-ai-inference

Valkey объявила о выходе версии 9.2 и представила распределённый кэш «ключ — значение» с открытым исходным кодом для ИИ-инференса. Он позволяет движкам инференса повторно использовать вычисленные данные промптов и диалогов на нескольких GPU. Команды, использующие самостоятельно размещённые модели с открытыми весами, могут подключить кэш через LMCache в связке с vLLM или SGLang.

По словам Valkey, кэш может сократить расходы на инференс до 40%, а время до первого токена — до 80%. В обновлении также появились снимки без создания форка, которые помогают избежать скачков потребления памяти при резервном копировании, и сжатие репликации, позволяющее, как утверждает компания, сократить трафик примерно на 50–65%.

## Факты

- Распределённый кэш подключается через LMCache к движкам, включая vLLM и SGLang.
- По словам Valkey, сжатие репликации сокращает текущий трафик примерно на 50–65%. 

## Почему это важно

Команды, запускающие модели с открытыми весами на собственных GPU-кластерах, могут попробовать повторно использовать результаты инференса через LMCache. Однако заявленная экономия — это оценка компании, а не гарантия для любой рабочей нагрузки.

## Источники и ссылки

1. [Valkey 9.2 Lowers Cost of AI Workloads On Existing Infrastructure Alongside New Distributed KV Caching Capability](https://www.prnewswire.com/news-releases/valkey-9-2-lowers-cost-of-ai-workloads-on-existing-infrastructure-alongside-new-distributed-kv-caching-capability-302945903.html) – PR Newswire RSS, 2026-11-19

Обновлено: 2026-11-19
