# Periscope doorzoekt lange teksten efficiënt met bevroren taalmodellen

> Met de nieuwe methode Periscope kan een model dat niet opnieuw is getraind antwoorden vinden in documenten van miljoenen tokens, met veel minder GPU-geheugen.

Oossa · 2026-10-06 · https://oossa.com/nl/periscope-lets-frozen-language-models-scan-longer-texts-efficiently

Onderzoekers introduceerden Periscope, een manier om een taalmodel dat niet opnieuw is getraind zeer lange teksten te laten doorzoeken. De techniek verdeelt een document in stukken, rangschikt die op een vierkant raster en laat het model twee soorten tekstsegmenten beoordelen: lokale groepen opeenvolgende stukken en groepen met tussenruimtes, die de hele tekst bemonsteren. Door de scores van deze segmenten te combineren, maakt Periscope een ‘bewijskaart’ die aangeeft welk stuk waarschijnlijk het antwoord bevat. Per zoekopdracht zijn daarvoor slechts ongeveer √(s·c) tokens nodig, waarbij s de documentlengte is en c de grootte van een stuk. Het model hoeft dus niet de hele tekst in één keer te verwerken.

## Hoe goed werkt het?

Op de benchmark LongBench v2 stond de kaart van Periscope bovenaan bij het verwerken van slechts 9 000 tokens. Dat was even goed als de beste resultaten van hetzelfde model bij het doorzoeken van vensters van 32 000 tot 1 000 000 tokens. Op InfiniteBench, waar een document gemiddeld ongeveer 150 000 tokens telt, scoorde de methode vijf punten hoger dan de beste aanpak waarbij een venster wordt doorzocht. Ook behaalde Periscope de hoogste NDCG@10-score van zes methoden op de corpora met lange documenten van BRIGHT.

## Waarom dit belangrijk is voor gebruikers

Met Periscope kan een model met 27 miljard parameters contexten van 4,5 miljoen tokens verwerken op één GPU van 80 GB. Voorheen zou één enkele doorloop van zo’n lange tekst ongeveer 296 GB GPU-geheugen nodig hebben om alleen al de tokens in het geheugen te bewaren. Daardoor kunnen gebruikers vragen stellen over zeer lange documenten met goedkopere hardware: de GPU hoeft alleen het model op te slaan, niet de volledige tekst.

## De feiten

- Periscope rangschikt N stukken op een K×K-raster, waarbij K = ⌈√N⌉.
- Elke zoekopdracht verwerkt ongeveer √(s·c) tokens, wat voor een venster van W tokens neerkomt op kosten van s^{1.5}.
- Op LongBench v2 evenaarde Periscope met slechts 9 000 verwerkte tokens de beste resultaten van het doorzoeken van vensters van 32 k tot 1 M tokens.
- Op InfiniteBench scoorde Periscope 5 punten hoger dan de beste aanpak waarbij een venster wordt doorzocht.
- Met Periscope kan een model van 27 B een context van 4,5 M tokens verwerken op een GPU van 80 GB, tegenover de 296 GB die nodig is voor een volledige doorloop.

## Waarom het ertoe doet

Voor ontwikkelaars en onderzoekers verlaagt Periscope de hardwarekosten voor het werken met zeer lange documenten, zodat ze grotere contexten kunnen analyseren op gangbare GPU’s. Voor eindgebruikers kan dit leiden tot snellere, goedkopere diensten die enorme hoeveelheden tekst moeten doorzoeken of samenvatten, zoals juridische archieven of wetenschappelijke literatuur. Onafhankelijke bevestiging buiten de benchmarks in het onderzoek moet nog volgen.

## Bronnen en referenties

1. [Periscope: Extending Frozen Language Models Beyond Their Context Window](https://arxiv.org/abs/2610.04047) – arXiv cs.IR, 2026-10-06

Laatst bijgewerkt: 2026-10-06