Oossa

llama.cpp b11810 bringt neue Dequantisierungsoptionen und mehr Builds

Die Open-Source-Laufzeitumgebung für LLMs bietet jetzt Builds für macOS, iOS und mehrere Ubuntu-Varianten. Außerdem führt sie die fp16- und fp32-Dequantisierungsoptionen zusammen.

KurzmeldungVon Von Oossa veröffentlicht: 1 Min. Lesezeit

ggml‑org hat am 22. Okt. 2026 llama.cpp Version b11810 veröffentlicht. Das Update führt die fp16- und fp32-Dequantisierungsschalter zusammen. Die Änderung wird unter #30740 geführt. Vorgefertigte Binaries gibt es jetzt für macOS mit Apple Silicon, macOS mit Intel-Prozessoren, iOS sowie verschiedene Ubuntu-CPUs und GPUs mit Vulkan- und CUDA‑12.8-Unterstützung. Auf der Release-Seite sind die tar.gz-Dateien für die einzelnen Plattformen verlinkt.

Warum es wichtig ist

Entwickler können LLaMA-Modelle auf mehr Hardware lokal ausführen, ohne den Quellcode selbst kompilieren zu müssen.

War dieser Artikel hilfreich?
Teilen

Als Nächstes lesen

Oossa · Newsletter

Die KI-Woche, erklärt

Jeden Montag: die Nachrichten, die man kennen sollte – verständlich. Kostenlos, kein Spam.