# Reddit-användare kör AI-modell med 2,8 biljoner parametrar på CPU

> En Reddit-användare körde Moonshot AI:s Kimi K3 med Intel Optane PMem 200-moduler av andra generationen och en Xeon-processor med 40 kärnor – men behövde kraftig kylning.

Oossa · 2026-11-08 · https://oossa.com/sv/reddit-homelab-runs-2-8-trillion-parameter-ai-model-on-cpu-with-optane-memory

En Reddit-användare byggde en homelab-dator som kör Moonshot AI:s Kimi K3-modell med 2,8 biljoner parametrar, enbart med en Xeon Scalable-processor av tredje generationen med 40 kärnor och utgångna Intel Optane PMem 200-minnesmoduler av andra generationen. Något grafikkort används inte. Systemet levererar cirka 0,85 token per sekund med 1-bitars kvantisering, vilket är mycket långsamt. Byggaren varnar för att Optane-modulerna blir extremt varma. Därför krävs två radialfläktar på 12 watt för att hindra dem från att överhettas och skada närliggande DRAM.

## Fakta

- Modell: Moonshot AI Kimi K3, 2,8 biljoner parametrar
- Prestanda: cirka 0,85 token per sekund med 1-bitars kvantisering
- Hårdvara: Xeon-processor av tredje generationen med 40 kärnor, Intel Optane PMem 200-moduler och två radialfläktar på 12 W

## Varför det spelar roll

Visar att det går att köra mycket stora språkmodeller utan grafikkort, men bara med kraftig kylning och mycket låg hastighet, vilket begränsar den praktiska användningen.

## Källor och referenser

1. [Homelabber uses second-gen Optane memory sticks to run a 2.8-trillion-parameter AI model on CPU alone](https://www.tomshardware.com/tech-industry/artificial-intelligence/homelabber-uses-second-gen-optane-memory-sticks-to-run-a-2-8-trillion-parameter-ai-model-on-cpu-alone-warns-that-optanes-extreme-heat-can-burn-out-nearby-memory-dram-used-blower-fans-to-prevent-melting-ram) – Tom's Hardware, 2026-11-08

Senast uppdaterad: 2026-11-08