Oossa

llama.cpp b12344 bricht Tool-Aufrufe bei Verbindungsabbruch ab

Das Update ergänzt eine serverseitige Abbruchfunktion für MCP-Tool-Aufrufe, wenn ein Client die Verbindung trennt oder eine Zeitüberschreitung auftritt. Außerdem gibt es Builds für mehrere Plattformen.

KurzmeldungVon Von Oossa veröffentlicht: 1 Min. Lesezeit

Das Team von ggml-org hat llama.cpp b12344 veröffentlicht. Die Server-Änderung bricht MCP-Tool-Aufrufe ab, wenn ein Client die Verbindung trennt oder eine Zeitüberschreitung auftritt. MCP ermöglicht es KI-Anwendungen, externe Tools zu nutzen. Auf der Release-Seite stehen außerdem Builds für macOS, iOS und mehrere Linux-Systeme bereit.

Warum es wichtig ist

Für Entwickler, die llama.cpp-Server betreiben, soll die Änderung verhindern, dass Tool-Aufrufe weiterlaufen, nachdem ein Client die Verbindung getrennt hat oder eine Zeitüberschreitung aufgetreten ist. In den Release-Notizen steht nicht, wie viel Serverkapazität sich dadurch einsparen lässt.

War dieser Artikel hilfreich?
Teilen

Als Nächstes lesen

Oossa · Newsletter

Die KI-Woche, erklärt

Jeden Montag: die Nachrichten, die man kennen sollte – verständlich. Kostenlos, kein Spam.