Oossa

llama.cpp corrige el manejo de infinitos y NaN en top‑k con Vulkan

La versión del 8 de octubre de 2026 corrige un error de Vulkan que provocaba cierres inesperados y resultados incorrectos al aparecer valores infinitos o NaN en los cálculos top‑k.

BrevePor Publicado por Oossa: 1 min de lectura

La biblioteca de código abierto llama.cpp publicó la versión b11505 el 2026‑10‑08. La actualización corrige un error en el shader de Vulkan para la operación top‑k. Antes, los valores +inf y NaN se ignoraban, lo que podía provocar bloqueos en GPU NVIDIA o índices incorrectos en GPU AMD. El parche convierte NaN en -inf, amplía el rango de cubetas para contabilizar todos los valores y corrige el caso k = 1 para números negativos. Se añadió una nueva prueba, llamada test_top_k_inf, que verifica estos casos.

Por qué importa

Los desarrolladores que usan llama.cpp con Vulkan tendrán menos cierres inesperados y resultados más precisos al clasificar tokens cuando sus prompts contengan valores extremos de punto flotante.

¿Te resultó útil este artículo?
Compartir

Sigue leyendo

Oossa · Boletín

La semana en IA, explicada

Cada lunes: las noticias que vale la pena conocer, en lenguaje sencillo. Gratis, sin spam.