Das Team von ggml-org hat am 26. Okt. 2026 llama.cpp in Version b11890 veröffentlicht. Das Update räumt den DeepSeek-V4-Code auf, verlagert einige Modellparameter in eine zentrale Konfiguration und entfernt nicht mehr verwendete Modellklassen. Außerdem wird die Hardwareunterstützung erweitert: Neu hinzu kommen CUDA-12- und CUDA-13-Bibliotheken sowie Backends für Vulkan, ROCm und OpenVINO unter Linux, Windows und macOS. Dadurch können Entwickler größere Modelle schneller auf mehr GPUs und Geräten mit NPU ausführen.
Warum es wichtig ist
Entwickler können DeepSeek-V4-Modelle jetzt auf einer größeren Auswahl an GPUs ausführen und sind dadurch weniger auf Inferenz in der Cloud angewiesen.
