# llama.cpp ondersteunt H2O‑Lightning‑4B-beslismodel

> De opensource-inferentiebibliotheek ondersteunt nu H2O‑Lightning‑4B: een Qwen3.5‑4B met een LoRA voor beslissingen.

Oossa · 2026-10-21 · https://oossa.com/nl/llama-cpp-adds-h2o-lightning-4b-decision-model

Het project ggml‑org/llama.cpp bracht op 2026‑10‑21 versie b11773 uit. De update voegt een nieuw modeltype toe: H2O‑Lightning‑4B, een Qwen3.5‑4B-model met een samengevoegde decision-LoRA. Het model geeft antwoorden die beginnen met een spatie (" A") en kan maximaal 255 labels verwerken. De converter schrijft nu beslismetadata weg en controleert of er een overeenkomst is in serve_config.json. De wijziging is mede geschreven door medewerkers van H2O AI en getest op verschillende CPU- en GPU-platforms.

## De feiten

- Model: H2O‑Lightning‑4B van het type decision
- Releasetag b11773 gepubliceerd op 2026‑10‑21

## Waarom het ertoe doet

Ontwikkelaars kunnen nu modellen voor beslissingen rechtstreeks met llama.cpp uitvoeren op uiteenlopende hardware.

## Bronnen en referenties

1. [ggml-org/llama.cpp b11773](https://github.com/ggml-org/llama.cpp/releases/tag/b11773) – llama.cpp, 2026-10-21

Laatst bijgewerkt: 2026-10-21