Das llama.cpp-Projekt hat Version b12027 veröffentlicht, die Tensor-Splitting für LFM3-Modelle ermöglicht. Außerdem stehen vorgefertigte Downloads für Plattformen wie macOS, iOS und verschiedene Ubuntu-Konfigurationen bereit.
In den Versionshinweisen wird nicht erläutert, welche LFM3-Modelle oder Hardwarekonfigurationen unterstützt werden.
Warum es wichtig ist
Entwickler, die LFM3 mit llama.cpp nutzen, können Tensor-Splitting ausprobieren. Die Versionshinweise nennen jedoch weder unterstützte Konfigurationen noch erwartete Vorteile.
