Das ggml-org-Team hat am 12. Nov. 2026 das Tag b12322 für llama.cpp veröffentlicht. Die Änderung passt an, wie für Graph-Ergebnisse Metadaten reserviert werden: Statt den gesamten Speicherbereich zu initialisieren, werden nur die benötigten Seiten zugewiesen. Dadurch greift die Bibliothek während der Inferenz auf weniger RAM zu.
Das Update ist für alle aufgeführten Plattformen verfügbar – von macOS und Windows-CPUs bis hin zu Linux-Builds für CUDA, Vulkan und OpenVINO.
Warum es wichtig ist
Entwickler, die LLaMA-Modelle auf Geräten mit begrenztem Speicher ausführen, profitieren von einem geringeren RAM-Verbrauch. So können sie größere Modelle nutzen oder mehrere Aufgaben flüssiger parallel erledigen.
