Oossa

llama.cpp adiciona o modelo de decisão H2O‑Lightning‑4B

A biblioteca de inferência de código aberto agora oferece suporte ao H2O‑Lightning‑4B, um Qwen3.5‑4B com LoRA do tipo decisão.

NotaPor Publicado pelo Oossa: 1 min de leitura

O projeto ggml‑org/llama.cpp lançou a versão b11773 em 2026‑10‑21. A atualização adiciona um novo tipo de modelo, chamado H2O‑Lightning‑4B, que é um Qwen3.5‑4B com uma LoRA de decisão incorporada. O modelo retorna respostas com um espaço no início (" A") e pode lidar com até 255 rótulos. Agora, o conversor grava metadados de decisão e verifica se há correspondência no serve_config.json. A mudança teve a coautoria de funcionários da H2O AI e foi testada em diversas plataformas de CPU e GPU.

Por que importa

Agora, desenvolvedores podem executar modelos de IA do tipo decisão diretamente no llama.cpp em diversas configurações de hardware.

Este artigo foi útil?
Compartilhar

Leia a seguir

Oossa · Newsletter

A semana em IA, explicada

Toda segunda-feira: as notícias que valem a pena, em linguagem simples. Grátis, sem spam.