Het project ggml-org/llama.cpp bracht op 25 okt 2026 een oplossing uit. Die voegt een controle toe die de verwerking stopt zodra JSON dieper dan 128 niveaus is genest, en een 400-foutmelding terugstuurt. Voorheen kon extreem diep geneste JSON de stack van de HTTP-thread laten overlopen en de llama-server laten crashen (met SIGBUS op macOS en SIGSEGV op Linux). De wijziging geldt voor chatinvoer, toolaanroepen en het endpoint /v1/systemone. Xuan Son Nguyen van Hugging Face werkte mee aan de oplossing.
Waarom het ertoe doet
Ontwikkelaars die llama.cpp gebruiken, kunnen erop rekenen dat de server stabieler werkt bij het verwerken van complexe JSON-payloads.