Oossa

llama.cpp beschleunigt GELU auf CPUs mit Version b11786

Die Open-Source-LLM-Laufzeitumgebung aktualisiert ihre CPU-Berechnungen: GELU-Funktionen werden nun ohne Lookup-Tabelle in voller Genauigkeit berechnet.

KurzmeldungVon Von Oossa veröffentlicht: 1 Min. Lesezeit

Das Projekt ggml-org/llama.cpp hat am 2026-10-21 Version b11786 veröffentlicht. Das Update enthält neue CPU-Kernels, die die Funktionen f32 gelu_quick und geglu_quick direkt berechnen und damit eine fp16-Lookup-Tabelle überflüssig machen. Außerdem wurden Tests für diese Kernels hinzugefügt und die bisherigen inf/nan-Testfälle entfernt. Vorgefertigte Binärdateien für macOS, iOS und verschiedene Linux-Varianten stehen jetzt zum Download bereit.

Warum es wichtig ist

Entwickler können LLMs auf CPUs schneller ausführen, da die neuen Kernels die langsamere Lookup-Tabelle umgehen.

War dieser Artikel hilfreich?
Teilen

Als Nächstes lesen

Oossa · Newsletter

Die KI-Woche, erklärt

Jeden Montag: die Nachrichten, die man kennen sollte – verständlich. Kostenlos, kein Spam.