# Un homelab su Reddit esegue un’IA da 2.800 miliardi di parametri su CPU

> Un utente ha usato moduli Intel Optane PMem 200 di seconda generazione e una CPU Xeon a 40 core per eseguire Kimi K3 di Moonshot AI, ma ha dovuto installare un sistema di raffreddamento potente.

Oossa · 2026-11-08 · https://oossa.com/it/reddit-homelab-runs-2-8-trillion-parameter-ai-model-on-cpu-with-optane-memory

Un utente di Reddit ha costruito un homelab in grado di eseguire il modello Kimi K3 di Moonshot AI, da 2.800 miliardi di parametri, usando solo una CPU Xeon Scalable di terza generazione a 40 core e moduli di memoria Intel Optane PMem 200 di seconda generazione, ormai fuori produzione. Non è stata utilizzata alcuna GPU. Con una quantizzazione a 1 bit, il sistema raggiunge circa 0,85 token al secondo, una velocità molto bassa. L’utente avverte che i moduli Optane si surriscaldano parecchio: servono quindi due ventole radiali da 12 watt per evitare che si surriscaldino e danneggino i moduli DRAM vicini.

## I fatti

- Modello: Kimi K3 di Moonshot AI, 2.800 miliardi di parametri
- Prestazioni: circa 0,85 token al secondo con quantizzazione a 1 bit
- Hardware: CPU Xeon di terza generazione a 40 core, moduli Intel Optane PMem 200, due ventole radiali da 12 W

## Perché conta

Dimostra che è possibile eseguire modelli linguistici di grandi dimensioni senza una GPU, ma servono un raffreddamento potente e bisogna accettare velocità molto basse, che ne limitano l’uso pratico.

## Fonti e riferimenti

1. [Homelabber uses second-gen Optane memory sticks to run a 2.8-trillion-parameter AI model on CPU alone](https://www.tomshardware.com/tech-industry/artificial-intelligence/homelabber-uses-second-gen-optane-memory-sticks-to-run-a-2-8-trillion-parameter-ai-model-on-cpu-alone-warns-that-optanes-extreme-heat-can-burn-out-nearby-memory-dram-used-blower-fans-to-prevent-melting-ram) – Tom's Hardware, 2026-11-08

Ultimo aggiornamento: 2026-11-08