# Dory1.0-4B verhoogt nauwkeurigheid met herhaalde berekeningen

> Het model met 4 miljard parameters kan tijdens inferentie hetzelfde blok meerdere keren uitvoeren. Zo ruilt het extra rekenkracht in voor hogere scores op benchmarks, zonder een grotere KV-cache.

Oossa · 2026-11-04 · https://oossa.com/nl/dory1-0-4b-uses-repeatable-computation-to-boost-accuracy

Onderzoekers presenteerden Dory1.0-4B, een taalmodel met 4 miljard parameters waarvan hetzelfde blok tijdens inferentie herhaaldelijk kan worden uitgevoerd. Daardoor kan één checkpoint verschillende hoeveelheden rekenkracht gebruiken, in plaats van voor elk rekenbudget een afzonderlijk, groter model nodig te hebben.

Volgens het artikel presteerde het model met twee of meer herhalingen gemiddeld beter dan verschillende grotere modellen op 12 benchmarks. Met vier herhalingen genereerde Dory op benchmarks voor AI-agents 1.3–2.5 keer minder tokens dan met één herhaling. De onderzoekers zeggen dat de omvang van de KV-cache van het model gelijk blijft, ongeacht het aantal herhalingen. Ze hebben checkpoints uitgebracht in vier formaten.

## De feiten

- Voorgetraind op 6 trillion tokens; de context is uitgebreid tot 256K tokens.
- Open checkpoints zijn beschikbaar in de formaten BF16, MXFP8, NVFP4 en GGUF.

## Waarom het ertoe doet

Voor ontwikkelaars die een open model kiezen, biedt Dory een manier om tijdens inferentie meer rekenkracht in te zetten zonder de omvang van de KV-cache te vergroten. De gemelde benchmarkverbeteringen komen echter uit het artikel en bewijzen niet dat de resultaten in elke toepassing worden behaald.

## Bronnen en referenties

1. [Dory1.0-4B: A Looped Normalized-GPT](https://arxiv.org/abs/2611.03998) – arXiv, 2026-11-04

Laatst bijgewerkt: 2026-11-04