Projektet ggml‑org/llama.cpp släppte version b11773 den 2026‑10‑21. Uppdateringen lägger till en ny modelltyp, H2O‑Lightning‑4B, som är en Qwen3.5‑4B-modell med en sammanslagen besluts-LoRA. Modellen returnerar svar med ett inledande mellanslag (" A") och kan hantera upp till 255 etiketter. Konverteraren skriver nu metadata för beslutstypen och kontrollerar om serve_config.json innehåller en matchning. Ändringen har tagits fram gemensamt av medarbetare på H2O AI och testats på flera olika CPU- och GPU-plattformar.
Varför det spelar roll
Utvecklare kan nu köra AI-modeller av beslutstyp direkt med llama.cpp på många olika hårdvarukonfigurationer.
