# Reddit-Homelab betreibt 2,8-Billionen-Parameter-KI auf CPU

> Ein Reddit-Bastler ließ Moonshot AIs Modell Kimi K3 auf einer 40-Kern-Xeon-CPU mit Intel-Optane-PMem-200-Modulen der zweiten Generation laufen – nötig war allerdings eine starke Kühlung.

Oossa · 2026-11-08 · https://oossa.com/de/reddit-homelab-runs-2-8-trillion-parameter-ai-model-on-cpu-with-optane-memory

Ein Reddit-Nutzer hat ein Homelab gebaut, auf dem Moonshot AIs Modell Kimi K3 mit 2,8 Billionen Parametern läuft – allein mit einer Xeon-Scalable-CPU der dritten Generation mit 40 Kernen und nicht mehr erhältlichen Intel-Optane-PMem-200-Speichermodulen der zweiten Generation. Eine GPU kommt nicht zum Einsatz. Mit 1-Bit-Quantisierung erreicht das System etwa 0,85 Tokens pro Sekunde – ein sehr langsames Tempo. Der Bastler warnt, dass die Optane-Module extrem heiß werden. Zwei Radiallüfter mit jeweils 12 Watt seien daher nötig, damit sie nicht überhitzen und benachbarten DRAM beschädigen.

## Die Fakten

- Modell: Moonshot AI Kimi K3 mit 2,8 Billionen Parametern
- Leistung: ca. 0,85 Tokens pro Sekunde bei 1-Bit-Quantisierung
- Hardware: Xeon-CPU der dritten Generation mit 40 Kernen, Intel-Optane-PMem-200-Module, zwei Radiallüfter mit 12 W

## Warum es wichtig ist

Das Beispiel zeigt, dass sich große Sprachmodelle auch ohne GPU ausführen lassen – allerdings nur mit aufwendiger Kühlung und sehr geringer Geschwindigkeit, was den praktischen Einsatz einschränkt.

## Quellen und Referenzen

1. [Homelabber uses second-gen Optane memory sticks to run a 2.8-trillion-parameter AI model on CPU alone](https://www.tomshardware.com/tech-industry/artificial-intelligence/homelabber-uses-second-gen-optane-memory-sticks-to-run-a-2-8-trillion-parameter-ai-model-on-cpu-alone-warns-that-optanes-extreme-heat-can-burn-out-nearby-memory-dram-used-blower-fans-to-prevent-melting-ram) – Tom's Hardware, 2026-11-08

Zuletzt aktualisiert: 2026-11-08