# На Reddit запустили ИИ-модель на 2,8 трлн параметров без GPU

> Энтузиаст использовал процессор Xeon на 40 ядер и модули Intel Optane PMem 200 второго поколения для запуска модели Kimi K3 от Moonshot AI, но системе потребовалось мощное охлаждение.

Oossa · 2026-11-08 · https://oossa.com/ru/reddit-homelab-runs-2-8-trillion-parameter-ai-model-on-cpu-with-optane-memory

Пользователь Reddit собрал домашний сервер, который запускает модель Kimi K3 от Moonshot AI с 2,8 трлн параметров — только на 40-ядерном процессоре Xeon Scalable третьего поколения и снятых с производства модулях памяти Intel Optane PMem 200 второго поколения. Видеокарты в системе нет. При 1-битной квантизации она выдаёт около 0,85 токена в секунду — это очень медленно. По словам автора сборки, модули Optane сильно нагреваются, поэтому их пришлось охлаждать двумя вентиляторами-турбинами мощностью 12 Вт каждый. Иначе они могут перегреться и повредить расположенные рядом модули DRAM.

## Факты

- Модель: Kimi K3 от Moonshot AI, 2,8 трлн параметров
- Производительность: около 0,85 токена в секунду при 1-битной квантизации
- Оборудование: 40-ядерный процессор Xeon третьего поколения, модули Intel Optane PMem 200 и два вентилятора-турбины по 12 Вт

## Почему это важно

Этот пример показывает, что запускать огромные языковые модели можно и без GPU, но для этого требуется мощное охлаждение, а скорость остаётся очень низкой — поэтому практическое применение ограничено.

## Источники и ссылки

1. [Homelabber uses second-gen Optane memory sticks to run a 2.8-trillion-parameter AI model on CPU alone](https://www.tomshardware.com/tech-industry/artificial-intelligence/homelabber-uses-second-gen-optane-memory-sticks-to-run-a-2-8-trillion-parameter-ai-model-on-cpu-alone-warns-that-optanes-extreme-heat-can-burn-out-nearby-memory-dram-used-blower-fans-to-prevent-melting-ram) – Tom's Hardware, 2026-11-08

Обновлено: 2026-11-08