El equipo de ggml-org lanzó llama.cpp b11809, que añade compatibilidad con Q2_0 a su backend WebGPU. Según las notas de la versión, el cambio abarca tanto la descuantización por filas como la multiplicación de matrices. No se ofrecen datos sobre velocidad, compatibilidad de hardware ni uso de memoria, por lo que no está claro cuál será el impacto práctico en el rendimiento.
Por qué importa
Los desarrolladores que usan llama.cpp con WebGPU pueden probar modelos Q2_0, pero las notas de la versión no indican qué rendimiento tendrán en dispositivos específicos.
