El equipo de ggml-org publicó la versión b11777 de llama.cpp. La actualización cambia la salida de los modelos Qwen de un tensor tridimensional a uno bidimensional, lo que elimina un paso final de remodelado innecesario. La versión también incluye binarios listos para usar para macOS (Apple Silicon e Intel), iOS y varias versiones de Ubuntu, con opciones para Vulkan y CUDA.
Por qué importa
Los desarrolladores pueden descargar los nuevos binarios y ejecutar LLM locales en más dispositivos sin tener que compilar el código fuente.
