ggml-org-teamet har släppt llama.cpp b12344, som innehåller en serverändring där MCP-verktygsanrop avbryts när en klient kopplas från eller får timeout. MCP är ett sätt för AI-appar att ansluta till externa verktyg. På versionssidan finns också byggen för macOS, iOS och flera Linux-system.
Varför det spelar roll
För utvecklare som kör llama.cpp-servrar är avsikten att ändringen ska hindra verktygsanrop från att fortsätta efter att en klient har kopplats från eller fått timeout. Versionsinformationen säger inte hur mycket serverkapacitet detta kan spara.