Oossa

llama.cpp b12344 annulla le chiamate agli strumenti dopo una disconnessione

La nuova versione di llama.cpp introduce l’annullamento lato server delle chiamate agli strumenti MCP se un client si disconnette o va in timeout, e include build per diverse piattaforme.

BreveDi Pubblicato da Oossa: 1 min di lettura

Il team di ggml-org ha rilasciato llama.cpp b12344, che introduce una modifica al server per annullare le chiamate agli strumenti MCP quando un client si disconnette o va in timeout. MCP è un sistema che consente alle app di IA di collegarsi a strumenti esterni. La pagina della release offre anche build per macOS, iOS e diversi sistemi Linux.

Perché conta

Per gli sviluppatori che gestiscono server llama.cpp, la modifica dovrebbe impedire che le chiamate agli strumenti proseguano dopo la disconnessione o il timeout di un client; le note di rilascio non indicano quanto possa ridurre il carico sul server.

Questo articolo ti è stato utile?
Condividi

Leggi anche

Oossa · Newsletter

La settimana dell'IA, spiegata

Ogni lunedì: le notizie che contano, in parole semplici. Gratis, niente spam.