El equipo de ggml-org publicó llama.cpp b12344, que incorpora un cambio en el servidor para cancelar las llamadas a herramientas MCP cuando un cliente se desconecta o agota el tiempo de espera. MCP permite que las aplicaciones de IA se conecten a herramientas externas. La página de la versión también ofrece compilaciones para macOS, iOS y varios sistemas Linux.
Por qué importa
Para quienes desarrollan con servidores de llama.cpp, el cambio busca impedir que las llamadas a herramientas sigan ejecutándose después de que un cliente se desconecte o agote el tiempo de espera; las notas de la versión no indican cuánta capacidad del servidor podría ahorrar.