# llama.cpp får stöd för beslutsmodellen H2O‑Lightning‑4B

> Det öppna inferensbiblioteket stöder nu H2O‑Lightning‑4B, en Qwen3.5‑4B med en LoRA för beslutstyp.

Oossa · 2026-10-21 · https://oossa.com/sv/llama-cpp-adds-h2o-lightning-4b-decision-model

Projektet ggml‑org/llama.cpp släppte version b11773 den 2026‑10‑21. Uppdateringen lägger till en ny modelltyp, H2O‑Lightning‑4B, som är en Qwen3.5‑4B-modell med en sammanslagen besluts-LoRA. Modellen returnerar svar med ett inledande mellanslag (" A") och kan hantera upp till 255 etiketter. Konverteraren skriver nu metadata för beslutstypen och kontrollerar om serve_config.json innehåller en matchning. Ändringen har tagits fram gemensamt av medarbetare på H2O AI och testats på flera olika CPU- och GPU-plattformar.

## Fakta

- Modell: H2O‑Lightning‑4B av beslutstyp
- Versionsmärkningen b11773 publicerades 2026‑10‑21

## Varför det spelar roll

Utvecklare kan nu köra AI-modeller av beslutstyp direkt med llama.cpp på många olika hårdvarukonfigurationer.

## Källor och referenser

1. [ggml-org/llama.cpp b11773](https://github.com/ggml-org/llama.cpp/releases/tag/b11773) – llama.cpp, 2026-10-21

Senast uppdaterad: 2026-10-21