OossaKI entwickelt sich schnell. Wir erklären es einfach.

llama.cpp erhält optionales ZDNN-Backend

Die Open-Source-Laufzeit für große Sprachmodelle lässt sich nun mit IBMs ZDNN-Bibliothek kompilieren – Tests sind allerdings noch nicht enthalten.

KurzmeldungOossa1 Min. Lesezeit

Das llama.cpp-Projekt bietet jetzt eine Build-Option für das ZDNN-Backend, eine Bibliothek, die Matrixberechnungen auf IBM-Z-Hardware beschleunigt. Die Änderung wurde am 30. September 2026 von Aaron Teo eingereicht. Der neue Code kompiliert das Backend, führt aber noch keine Tests aus.

Warum es wichtig ist

Damit können Entwickler llama.cpp auf IBM-Z-Systemen ausprobieren und möglicherweise die Leistung bei der Inferenz großer Sprachmodelle verbessern.

War dieser Artikel hilfreich?
Teilen

Als Nächstes lesen

Oossa · Newsletter

Die KI-Woche, erklärt

Jeden Montag: die Nachrichten, die man kennen sollte – verständlich. Kostenlos, kein Spam.

Quellen und Referenzen

#QuelleMediumDatumKernaussage
1ggml-org/llama.cpp b11269 ↗llama.cpp30.09.2026<details open> ci: add zdnn backend build but not test (#29541) * ci: add zdnn backend build but not test Signed-off-by: Aaron Teo <aaron.te

1 Quellen

Zuletzt aktualisiert: ·Markdown·llms.txt