Oossa

llama.cpp prend en charge le modèle décisionnel H2O‑Lightning‑4B

La bibliothèque d’inférence open source prend désormais en charge H2O‑Lightning‑4B, un modèle Qwen3.5‑4B doté d’une LoRA de type décision.

BrèvePar Publié par Oossa: 1 min de lecture

Le projet ggml‑org/llama.cpp a publié la version b11773 le 2026‑10‑21. Cette mise à jour ajoute un nouveau type de modèle appelé H2O‑Lightning‑4B, un modèle Qwen3.5‑4B auquel a été fusionnée une LoRA décisionnelle. Les réponses du modèle commencent par une espace (« A »), et il peut gérer jusqu’à 255 étiquettes. Le convertisseur écrit désormais les métadonnées de décision et vérifie si le fichier serve_config.json contient une correspondance. La modification a été coécrite par des membres de l’équipe de H2O AI et testée sur différentes plateformes CPU et GPU.

Pourquoi c'est important

Les développeurs peuvent désormais exécuter directement des modèles d’IA décisionnels avec llama.cpp sur de nombreuses configurations matérielles.

Cet article vous a-t-il été utile ?
Partager

À lire ensuite

Oossa · Newsletter

La semaine de l'IA, expliquée

Chaque lundi : l'essentiel de l'actualité, en langage clair. Gratuit, sans spam.