Het project ggml‑org/llama.cpp bracht op 2026‑10‑21 versie b11773 uit. De update voegt een nieuw modeltype toe: H2O‑Lightning‑4B, een Qwen3.5‑4B-model met een samengevoegde decision-LoRA. Het model geeft antwoorden die beginnen met een spatie (" A") en kan maximaal 255 labels verwerken. De converter schrijft nu beslismetadata weg en controleert of er een overeenkomst is in serve_config.json. De wijziging is mede geschreven door medewerkers van H2O AI en getest op verschillende CPU- en GPU-platforms.
Waarom het ertoe doet
Ontwikkelaars kunnen nu modellen voor beslissingen rechtstreeks met llama.cpp uitvoeren op uiteenlopende hardware.
