Het team van ggml-org heeft llama.cpp b12344 uitgebracht. De server annuleert daarin MCP-toolaanroepen als een client de verbinding verbreekt of een time-out krijgt. MCP is een manier waarop AI-apps verbinding kunnen maken met externe tools. Op de releasepagina staan ook builds voor macOS, iOS en verschillende Linux-systemen.
Waarom het ertoe doet
Voor ontwikkelaars die llama.cpp-servers draaien, moet deze wijziging voorkomen dat toolaanroepen doorgaan nadat een client de verbinding heeft verbroken of een time-out heeft gekregen. In de release-informatie staat niet hoeveel servercapaciteit dit kan besparen.
