Oossa

llama.cpp b12344 avbryter verktygsanrop vid frånkoppling

Den nya versionen av llama.cpp avbryter MCP-verktygsanrop på serversidan när en klient kopplas från eller får timeout. Den innehåller också byggen för flera plattformar.

NotisAv Publicerad av Oossa: 1 min läsning

ggml-org-teamet har släppt llama.cpp b12344, som innehåller en serverändring där MCP-verktygsanrop avbryts när en klient kopplas från eller får timeout. MCP är ett sätt för AI-appar att ansluta till externa verktyg. På versionssidan finns också byggen för macOS, iOS och flera Linux-system.

Varför det spelar roll

För utvecklare som kör llama.cpp-servrar är avsikten att ändringen ska hindra verktygsanrop från att fortsätta efter att en klient har kopplats från eller fått timeout. Versionsinformationen säger inte hur mycket serverkapacitet detta kan spara.

Var den här artikeln användbar?
Dela

Läs vidare

Oossa · Nyhetsbrev

Veckans AI, förklarad

Varje måndag: nyheterna som är värda att känna till, på enkel svenska. Gratis, ingen spam.