# RoLaQ повышает точность и скорость 2-битного KV-кэша

> Новый метод RoLaQ повышает точность и скорость декодирования при использовании низкоразрядных кэшей ключей и значений в моделях с многоголовой латентной внимательностью.

Oossa · 2026-10-16 · https://oossa.com/ru/rolaq-improves-2-bit-kv-cache-accuracy-and-speed

Исследователи под руководством Шию Джи представили RoLaQ — метод калибровки 2-битных кэшей ключей и значений для моделей с многоголовой латентной внимательностью. Метод совместно настраивает поворот и диапазон квантования, не меняя веса модели. В испытаниях на трёх моделях и шести тестах RoLaQ показал самую высокую среднюю точность среди 2-битных методов. В реализации SGLang для DeepSeek‑V2‑Lite ёмкость кэша оказалась в 3.96 раза выше, чем у BF16, а скорость декодирования — в 2.51 раза выше при контексте в 256K токенов.

## Факты

- RoLaQ был отправлен 14 Oct 2026 (arXiv ID 2610.20686).
- Для DeepSeek‑V2‑Lite метод обеспечил ёмкость KV-кэша в 3.96 раза выше и пропускную способность декодирования в 2.51 раза выше.

## Почему это важно

Разработчики языковых моделей с длинным контекстом смогут быстрее обрабатывать более длинные запросы без дополнительного оборудования.

## Источники и ссылки

1. [RoLaQ: Joint Rotation and Range Calibration for 2-Bit KV Caches in Multi-Head Latent Attention](https://arxiv.org/abs/2610.20686) – arXiv cs.LG, 2026-10-16

Обновлено: 2026-10-16