Das ggml-org-Team hat llama.cpp Version b11723 am 19. Okt. 2026 veröffentlicht. Das Update verbessert FLASH_ATTN_EXT für längere Kontextfenster und SWA-Modelle und überspringt maskierte Blöcke, um Speicherzugriffe zu reduzieren. Binärversionen sind jetzt für macOS (Apple Silicon und Intel), iOS und verschiedene Ubuntu-Varianten verfügbar, darunter auch mit Vulkan-GPU-Unterstützung. Die Änderungen sollen die Leistung bei Modellen wie gemma-4 steigern.
Warum es wichtig ist
Entwickler können LLMs mit größeren Kontexten auf Desktop-CPUs und kompatiblen GPUs effizienter ausführen.
