A equipe ggml-org lançou o llama.cpp b12344 com uma mudança no servidor que cancela chamadas a ferramentas MCP quando um cliente se desconecta ou atinge o tempo limite. O MCP é uma forma de conectar aplicativos de IA a ferramentas externas. A página da versão também oferece compilações para macOS, iOS e vários sistemas Linux.
Por que importa
Para desenvolvedores que executam servidores llama.cpp, a mudança busca impedir que chamadas a ferramentas continuem após a desconexão de um cliente ou o fim do tempo limite; as notas da versão não informam quanta capacidade do servidor isso pode economizar.
