Oossa

llama.cpp añade el modelo de decisión H2O‑Lightning‑4B

La biblioteca de inferencia de código abierto ahora es compatible con H2O‑Lightning‑4B, un Qwen3.5‑4B con una LoRA de tipo decisión.

BrevePor Publicado por Oossa: 1 min de lectura

El proyecto ggml‑org/llama.cpp publicó la versión b11773 el 2026‑10‑21. La actualización añade un nuevo tipo de modelo, H2O‑Lightning‑4B, que es un modelo Qwen3.5‑4B con una LoRA de decisión integrada. El modelo devuelve respuestas precedidas por un espacio (" A") y admite hasta 255 etiquetas. El convertidor ahora escribe los metadatos de decisión y comprueba si hay una coincidencia en serve_config.json. El cambio fue desarrollado en colaboración por miembros del equipo de H2O AI y probado en distintas plataformas de CPU y GPU.

Por qué importa

Los desarrolladores ahora pueden ejecutar modelos de IA de tipo decisión directamente con llama.cpp en diversas configuraciones de hardware.

¿Te resultó útil este artículo?
Compartir

Sigue leyendo

Oossa · Boletín

La semana en IA, explicada

Cada lunes: las noticias que vale la pena conocer, en lenguaje sencillo. Gratis, sin spam.