Das Projekt ggml‑org/llama.cpp hat am 15. Okt. 2026 Version b11633 veröffentlicht. Das Update ändert die Speicherzuweisung für den Konvertierungspuffer der SET_ROWS-Operation, sodass jeder Thread einen eigenen Bereich erhält. Bisher schrieben alle Threads nach dem ersten über das Ende des Puffers hinaus, was bei Ausführungen mit mehreren Threads zu Abstürzen führte. Die Korrektur lässt SET_ROWS mit einer Aufgabe pro Thread laufen und stimmt so die Puffergröße auf die Anzahl der Threads ab.
Warum es wichtig ist
Entwickler, die llama.cpp auf Mehrkern-CPUs nutzen, werden beim parallelen Ausführen von Modellen weniger Abstürze erleben.
