# llama.cpp 0.5 unterstützt Q5_0- und Q5_1-Quantisierung

> Der Open-Source-LLM-Runner unterstützt jetzt zwei neue 5-Bit-Formate. Fertige Binärdateien gibt es für macOS, iOS und mehrere Ubuntu-Plattformen.

Oossa · 2026-11-13 · https://oossa.com/de/llama-cpp-0-5-release-adds-q5-0-and-q5-1-quantization-support

Das Team von ggml-org hat llama.cpp in Version b12345 veröffentlicht. Das Update unterstützt die Quantisierungsformate Q5_0 und Q5_1. Die 5-Bit-Komprimierung kann die Inferenz beschleunigen. Außerdem enthält das Update spezielle Kernel für diese Formate auf Hexagon-Geräten. Fertige Binärdateien stehen für macOS auf Apple Silicon und Intel, iOS sowie mehrere Ubuntu-Varianten bereit – darunter Versionen, die nur die CPU nutzen, und solche mit Vulkan-Unterstützung.

## Die Fakten

- Version b12345 wurde am 2026-11-13 veröffentlicht
- Unterstützt jetzt die Quantisierungsformate Q5_0 und Q5_1

## Warum es wichtig ist

Entwickler können LLMs auf stromsparender Hardware schneller ausführen. So kommen mehr Geräte für den lokalen Betrieb von KI-Modellen infrage.

## Quellen und Referenzen

1. [ggml-org/llama.cpp b12345](https://github.com/ggml-org/llama.cpp/releases/tag/b12345) – llama.cpp, 2026-11-13

Zuletzt aktualisiert: 2026-11-13