Das ggml-org-Team hat llama.cpp b11598 veröffentlicht. Die neue Version kann YaRN-Beta-Metadaten für Laguna-Modelle laden. Auf der Release-Seite stehen Downloads für macOS, iOS und Linux bereit, darunter CPU- und Vulkan-Builds für Linux.
In den Versionshinweisen wird nicht erläutert, welche für Nutzer sichtbare Änderung die Anpassung an den Metadaten bewirkt. Benchmark-Ergebnisse oder weitere Details zur Unterstützung von Laguna-Modellen werden ebenfalls nicht genannt.
Warum es wichtig ist
Wer Laguna-Modelle mit llama.cpp ausführt, kann nun eine Version nutzen, die deren YaRN-Beta-Metadaten lädt. Die Versionshinweise sagen allerdings nicht, welche praktischen Änderungen zu erwarten sind.
