# Reddit用户用Optane内存和CPU运行2.8万亿参数AI模型

> 一位Reddit用户用第二代Intel Optane PMem 200内存模块和40核至强CPU运行Moonshot AI的Kimi K3模型，但必须加强散热。

Oossa · 2026-11-08 · https://oossa.com/zh/reddit-homelab-runs-2-8-trillion-parameter-ai-model-on-cpu-with-optane-memory

一位Reddit用户搭建了一套家庭实验室系统，仅靠一颗40核第三代Xeon Scalable CPU和已停产的第二代Intel Optane PMem 200内存条，就运行起Moonshot AI拥有2.8万亿参数的Kimi K3模型。整个系统没有使用GPU。采用1位量化时，系统的生成速度约为每秒0.85个token，十分缓慢。搭建者提醒，Optane模块会变得非常烫，因此需要两台12瓦鼓风机散热，以免模块过热并损坏附近的DRAM。

## 事实

- 模型：Moonshot AI Kimi K3，2.8万亿参数
- 性能：采用1位量化时约为每秒0.85个token
- 硬件：40核第三代Xeon CPU、Intel Optane PMem 200内存条、两台12 W鼓风机

## 为什么重要

这表明无需GPU也能运行超大型语言模型，但必须配备强力散热，而且速度极低，实际用途有限。

## 来源与参考

1. [Homelabber uses second-gen Optane memory sticks to run a 2.8-trillion-parameter AI model on CPU alone](https://www.tomshardware.com/tech-industry/artificial-intelligence/homelabber-uses-second-gen-optane-memory-sticks-to-run-a-2-8-trillion-parameter-ai-model-on-cpu-alone-warns-that-optanes-extreme-heat-can-burn-out-nearby-memory-dram-used-blower-fans-to-prevent-melting-ram) – Tom's Hardware, 2026-11-08

最后更新: 2026-11-08