Oossa

llama.cpp b11496 bringt SYCL-Unterstützung für Massenübertragungen

Die Open-Source-Bibliothek llama.cpp ist am 8. Okt. 2026 in Version b11496 erschienen. Neu ist ein SYCL-basierter Ladeweg für Modelle über einen fixierten Ringpuffer.

KurzmeldungVon Von Oossa veröffentlicht: 1 Min. Lesezeit

Das ggml-org-Team hat llama.cpp b11496 am 8. Okt. 2026 veröffentlicht. Das Update ergänzt eine SYCL-Stufe, die große Modellübertragungen über einen fixierten Ringpuffer abwickelt und so das Laden auf kompatiblen GPUs beschleunigt. Zum Download stehen Binärdateien für macOS (Apple Silicon und Intel), iOS sowie verschiedene Ubuntu-Versionen (CPU, Vulkan, CUDA 12) bereit.

Warum es wichtig ist

Entwickler können große Sprachmodelle auf SYCL-kompatibler Hardware schneller laden und so die Startzeit von Apps verkürzen, die llama.cpp verwenden.

War dieser Artikel hilfreich?
Teilen

Als Nächstes lesen

Oossa · Newsletter

Die KI-Woche, erklärt

Jeden Montag: die Nachrichten, die man kennen sollte – verständlich. Kostenlos, kein Spam.