Oossa

llama.cpp añade compatibilidad con GQA y nuevas funciones de tokenización

La biblioteca de código abierto llama.cpp ahora admite modelos GQA no estándar y un tokenizador BPE, además de ampliar las compilaciones para distintas plataformas.

BrevePor Publicado por Oossa: 1 min de lectura

El equipo de ggml-org lanzó la versión b11819 de llama.cpp el 2026-10-22. La actualización añade compatibilidad con modelos GQA (atención de consultas agrupadas) no estándar y un tokenizador BPE (codificación por pares de bytes), además de un nuevo pre-tipo domyn-small. También incorpora gestión de metadatos para esquemas de prefijo de Metaspace. La matriz de compilaciones ahora incluye numerosos objetivos para CPU y GPU, como Apple Silicon, CUDA 12/13, Vulkan, ROCm y Android Snapdragon.

Por qué importa

Los desarrolladores ahora pueden ejecutar una variedad más amplia de LLM, incluidos los que usan GQA, en más dispositivos, como teléfonos inteligentes y GPU.

¿Te resultó útil este artículo?
Compartir

Sigue leyendo

Oossa · Boletín

La semana en IA, explicada

Cada lunes: las noticias que vale la pena conocer, en lenguaje sencillo. Gratis, sin spam.