# Reddit-homelab draait AI-model met 2,8 biljoen parameters op CPU

> Een Reddit-gebruiker draaide Moonshot AI’s Kimi K3 met Intel Optane PMem 200-modules van de tweede generatie en een Xeon-CPU met 40 cores, maar had krachtige koeling nodig.

Oossa · 2026-11-08 · https://oossa.com/nl/reddit-homelab-runs-2-8-trillion-parameter-ai-model-on-cpu-with-optane-memory

Een Reddit-gebruiker bouwde een homelab waarop Moonshot AI’s Kimi K3-model met 2,8 biljoen parameters draait, met alleen een Xeon Scalable-CPU van de derde generatie met 40 cores en niet meer verkrijgbare Intel Optane PMem 200-geheugenmodules van de tweede generatie. Er komt geen GPU aan te pas. Het systeem haalt met 1-bit-kwantisering ongeveer 0,85 tokens per seconde, wat erg langzaam is. De bouwer waarschuwt dat de Optane-modules extreem heet worden. Daarom zijn twee blowerfans van 12 watt nodig om oververhitting en schade aan nabijgelegen DRAM te voorkomen.

## De feiten

- Model: Moonshot AI Kimi K3, 2,8 biljoen parameters
- Prestaties: ongeveer 0,85 tokens per seconde met 1-bit-kwantisering
- Hardware: Xeon-CPU van de derde generatie met 40 cores, Intel Optane PMem 200-modules, twee blowerfans van 12 W

## Waarom het ertoe doet

Dit laat zien dat enorme taalmodellen zonder GPU kunnen draaien, maar alleen met krachtige koeling en bij zeer lage snelheden, waardoor ze in de praktijk beperkt bruikbaar zijn.

## Bronnen en referenties

1. [Homelabber uses second-gen Optane memory sticks to run a 2.8-trillion-parameter AI model on CPU alone](https://www.tomshardware.com/tech-industry/artificial-intelligence/homelabber-uses-second-gen-optane-memory-sticks-to-run-a-2-8-trillion-parameter-ai-model-on-cpu-alone-warns-that-optanes-extreme-heat-can-burn-out-nearby-memory-dram-used-blower-fans-to-prevent-melting-ram) – Tom's Hardware, 2026-11-08

Laatst bijgewerkt: 2026-11-08