# Periscope ajuda modelos congelados a analisar textos longos

> Um novo método que não exige treinamento, chamado Periscope, permite que um modelo congelado localize respostas em documentos com milhões de tokens usando muito menos memória de GPU.

Oossa · 2026-10-06 · https://oossa.com/pt/periscope-lets-frozen-language-models-scan-longer-texts-efficiently

Pesquisadores apresentaram o Periscope, uma forma de fazer um modelo de linguagem congelado buscar informações em textos muito longos sem retreiná-lo. A técnica divide um documento em blocos, organiza-os em uma grade quadrada e pede ao modelo que avalie dois tipos de trechos: grupos locais de blocos consecutivos e grupos espaçados que percorrem o texto todo. Ao combinar as pontuações desses trechos, o Periscope cria um “mapa de evidências” que aponta para o bloco com maior probabilidade de conter a resposta. Todo o processo exige apenas cerca de √(s·c) tokens por consulta, em que s é o tamanho do documento e c é o tamanho do bloco, em vez de ler todo o texto de uma só vez.

## Qual é o desempenho?

No benchmark LongBench v2, o mapa do Periscope ficou em primeiro lugar usando apenas 9 000 tokens, igualando o melhor desempenho de leitura por janela do mesmo modelo em janelas de 32 000 a 1 000 000 tokens. No InfiniteBench, em que os documentos têm mediana de cerca de 150 000 tokens, o método superou em cinco pontos a melhor leitura por janela. Também obteve a maior pontuação NDCG@10 entre seis métodos nos corpora de documentos longos do BRIGHT.

## Por que isso importa para os usuários

O Periscope permite que um modelo com 27 billion de parâmetros processe contextos de 4.5 million de tokens em uma única GPU de 80 GB. Antes, uma única passagem por todo esse texto exigiria cerca de 296 GB de memória de GPU apenas para armazenar os tokens em cache. Isso significa que os usuários podem fazer consultas sobre documentos muito longos em equipamentos mais baratos, já que a GPU precisa armazenar apenas o modelo, e não o texto inteiro.

## Os fatos

- O Periscope organiza N blocos em uma grade K×K, em que K = ⌈√N⌉.
- Cada consulta lê cerca de √(s·c) tokens, resultando em um custo de s^{1.5} para uma janela de W tokens.
- No LongBench v2, a leitura de apenas 9 000 tokens com o Periscope igualou a melhor leitura por janela em janelas de 32 k a 1 M tokens.
- No InfiniteBench, o Periscope superou em 5 pontos a melhor leitura por janela.
- Com o Periscope, um modelo de 27 B pode processar um contexto de 4.5 M de tokens em uma GPU de 80 GB, enquanto uma passagem completa exige 296 GB.

## Por que importa

Para desenvolvedores e pesquisadores, o Periscope reduz o custo de hardware para trabalhar com documentos muito longos e permite analisar contextos maiores em GPUs comuns. Para os usuários, isso pode resultar em serviços mais rápidos e baratos para pesquisar ou resumir grandes volumes de texto, como arquivos jurídicos ou literatura científica. Ainda falta validação independente além dos benchmarks do artigo.

## Fontes e referências

1. [Periscope: Extending Frozen Language Models Beyond Their Context Window](https://arxiv.org/abs/2610.04047) – arXiv cs.IR, 2026-10-06

Última atualização: 2026-10-06