# GateRQ reduz o uso de tabelas de memória condicional em dois LLMs

> Um novo estudo propõe definir quantos bits ler em cada consulta à memória e relata menor uso de memória da GPU e maior throughput no vLLM.

Oossa · 2026-10-28 · https://oossa.com/pt/gaterq-cuts-conditional-memory-table-use-in-two-llms

Pesquisadores apresentam o GateRQ, um método para comprimir tabelas de memória condicional — grandes conjuntos de padrões de texto associados a um modelo de linguagem. Em vez de atribuir precisão extra às linhas acessadas com frequência, o GateRQ usa o valor de gate de uma consulta para decidir se deve ler códigos adicionais de 1 bit; segundo o artigo, o gate pode ser calculado a partir de um código de 1 bit.

No DeepSeek-V4.1-Flash, os pesquisadores relatam usar 7,8 vezes menos memória da GPU para as tabelas e obter throughput de 11% a 31% maior no vLLM do que com tabelas FP8. Em dois modelos, relatam uma perda de cerca de 1 ponto no PopQA com uma média de 1,50 bit lido por consulta, ou de 0,2 ponto com 2,10 bits. O método não exige retreinamento.

## Os fatos

- O artigo é o arXiv:2610.35985, publicado em 28 de outubro de 2026.
- Os pesquisadores relatam uma redução de 7,8× no uso de memória da GPU para as tabelas no DeepSeek-V4.1-Flash.

## Por que importa

Para equipes que executam modelos com tabelas de memória condicional, o GateRQ pode reduzir o uso de memória da GPU e aumentar o throughput. No entanto, os resultados relatados não mostram como o método se comporta fora dos modelos testados.

## Fontes e referências

1. [Let the Gate Decide: Per-Lookup Precision for Quantized Conditional Memory in LLMs](https://arxiv.org/abs/2610.35985) – arXiv cs.LG, 2026-10-28

Última atualização: 2026-10-28