El proyecto llama.cpp lanzó la versión b11636 el 2026-10-15. Esta incorpora una disposición persistente de los pesos para las cuantizaciones IQ3_S e IQ3_XXS al ejecutarse con SYCL. Los pesos se reordenan una sola vez, al cargar el modelo, para que la GPU procese bloques densos en vez de reunir bits, lo que acelera la decodificación y el prellenado. En una GPU Intel Arc Pro B70, el modelo Qwen3.8‑27B aumentó su velocidad de generación de 12.92 a 23.54 tokens por segundo con prompts cortos, un incremento del 82 %.
Por qué importa
Los desarrolladores que ejecutan llama.cpp en GPU compatibles con SYCL pueden obtener respuestas notablemente más rápidas sin modificar el código del modelo.
