# Periscope durchsucht lange Texte mit weniger GPU-Speicher

> Mit der neuen Methode Periscope kann ein unverändertes Sprachmodell Antworten in Dokumenten mit mehreren Millionen Tokens finden – ohne aufwendiges Nachtraining und mit deutlich weniger GPU-Speicher.

Oossa · 2026-10-06 · https://oossa.com/de/periscope-lets-frozen-language-models-scan-longer-texts-efficiently

Forschende haben Periscope vorgestellt: eine Methode, mit der ein unverändertes Sprachmodell sehr lange Texte durchsuchen kann, ohne es neu zu trainieren. Dazu wird ein Dokument in Abschnitte aufgeteilt und auf einem quadratischen Raster angeordnet. Das Modell bewertet zwei Arten von Textspannen: lokale Gruppen aufeinanderfolgender Abschnitte und Gruppen mit festen Abständen, die den gesamten Text abdecken. Aus den Bewertungen dieser Spannen erstellt Periscope eine „Evidenzkarte“, die auf den Abschnitt verweist, der die Antwort am wahrscheinlichsten enthält. Für jeden Prüfschritt benötigt das Verfahren nur etwa √(s·c) Tokens, wobei s die Dokumentlänge und c die Abschnittsgröße bezeichnet – statt den gesamten Text in einem Durchgang zu lesen.

## Wie gut funktioniert die Methode?

Im Benchmark LongBench v2 belegte Periscopes Karte den Spitzenplatz, obwohl nur 9 000 Tokens gelesen wurden. Damit erreichte die Methode denselben Wert wie das beste Einlesen einzelner Textfenster mit demselben Modell – bei Fenstergrößen von 32 000 bis 1 000 000 Tokens. Bei InfiniteBench, wo Dokumente im Median etwa 150 000 Tokens umfassen, übertraf Periscope das beste Einlesen einzelner Fenster um fünf Punkte. Auch auf den Korpora mit langen Dokumenten von BRIGHT erzielte die Methode unter sechs Verfahren den höchsten NDCG@10-Wert.

## Warum das für Nutzer wichtig ist

Mit Periscope kann ein Modell mit 27 Milliarden Parametern Kontexte mit 4,5 Millionen Tokens auf einer einzelnen 80 GB-GPU verarbeiten. Zuvor hätte ein einziger Durchlauf über so viel Text rund 296 GB GPU-Speicher allein für den Token-Cache benötigt. Nutzer können damit sehr lange Dokumente auch auf günstigerer Hardware abfragen, denn die GPU muss nur das Modell und nicht den gesamten Text speichern.

## Die Fakten

- Periscope ordnet N Abschnitte auf einem K×K-Raster an, wobei K = ⌈√N⌉ gilt.
- Jeder Prüfschritt verarbeitet etwa √(s·c) Tokens; bei einem Fenster mit W Tokens ergibt sich ein Aufwand von s^{1.5}.
- Bei LongBench v2 erreichte Periscope mit nur 9 000 gelesenen Tokens denselben Wert wie das beste Einlesen einzelner Fenster mit Größen von 32 k bis 1 M Tokens.
- Bei InfiniteBench übertraf Periscope das beste Einlesen einzelner Fenster um 5 Punkte.
- Mit Periscope kann ein Modell mit 27 B Parametern einen Kontext mit 4,5 M Tokens auf einer 80 GB-GPU verarbeiten; für einen vollständigen Durchlauf wären 296 GB nötig.

## Warum es wichtig ist

Für Entwickler und Forschende senkt Periscope die Hardwarekosten bei der Arbeit mit sehr langen Dokumenten und ermöglicht Analysen größerer Kontexte auf gängigen GPUs. Für Endnutzer könnte das schnellere und günstigere Dienste ermöglichen, die riesige Textbestände wie juristische Archive oder wissenschaftliche Fachliteratur durchsuchen oder zusammenfassen. Eine unabhängige Überprüfung über die Benchmarks der Studie hinaus steht noch aus.

## Quellen und Referenzen

1. [Periscope: Extending Frozen Language Models Beyond Their Context Window](https://arxiv.org/abs/2610.04047) – arXiv cs.IR, 2026-10-06

Zuletzt aktualisiert: 2026-10-06