El equipo de ggml-org publicó llama.cpp versión b11769. La actualización corrige un error por el que el enrutador del servidor no transmitía por completo a los procesos secundarios las señales de desconexión de los clientes, lo que podía retrasar la cancelación de solicitudes. El cambio también elimina una prueba sensible a los tiempos. Ya hay nuevas compilaciones binarias precompiladas para macOS con Apple Silicon, macOS con Intel, iOS y varias variantes de Ubuntu.
Por qué importa
Los desarrolladores pueden ejecutar llama.cpp localmente y cancelar solicitudes de forma más fiable, lo que reduce el cómputo desperdiciado en tareas interrumpidas.
