Das Team von ggml-org hat llama.cpp b12344 veröffentlicht. Die Server-Änderung bricht MCP-Tool-Aufrufe ab, wenn ein Client die Verbindung trennt oder eine Zeitüberschreitung auftritt. MCP ermöglicht es KI-Anwendungen, externe Tools zu nutzen. Auf der Release-Seite stehen außerdem Builds für macOS, iOS und mehrere Linux-Systeme bereit.
Warum es wichtig ist
Für Entwickler, die llama.cpp-Server betreiben, soll die Änderung verhindern, dass Tool-Aufrufe weiterlaufen, nachdem ein Client die Verbindung getrennt hat oder eine Zeitüberschreitung aufgetreten ist. In den Release-Notizen steht nicht, wie viel Serverkapazität sich dadurch einsparen lässt.