Oossa

llama.cpp b11723 amplía el contexto con FLASH_ATTN_EXT

La biblioteca de código abierto llama.cpp lanzó la versión b11723, con ajustes de FLASH_ATTN_EXT para acelerar la inferencia con contextos largos en CPU y Vulkan.

BrevePor Publicado por Oossa: 1 min de lectura

El equipo de ggml-org publicó llama.cpp versión b11723 el 19 de octubre de 2026. La actualización incorpora mejoras de FLASH_ATTN_EXT para ventanas de contexto más largas y modelos SWA, además de omitir bloques enmascarados para reducir las lecturas de memoria. Ya hay versiones binarias para macOS (Apple Silicon e Intel), iOS y varias ediciones de Ubuntu, con compatibilidad con GPU Vulkan. Los cambios buscan mejorar el rendimiento de modelos como gemma-4.

Por qué importa

Los desarrolladores pueden ejecutar modelos de lenguaje de gran tamaño con contextos más amplios y mayor eficiencia en CPU de escritorio y GPU compatibles.

¿Te resultó útil este artículo?
Compartir

Sigue leyendo

Oossa · Boletín

La semana en IA, explicada

Cada lunes: las noticias que vale la pena conocer, en lenguaje sencillo. Gratis, sin spam.