Oossa

llama.cpp begrenst JSON-diepte om crashes te voorkomen

De open-sourceruntime voor LLM’s weigert voortaan JSON dat dieper dan 128 niveaus genest is. Zo worden servercrashes op macOS en Linux voorkomen.

Kort berichtDoor Gepubliceerd door Oossa: 1 min lezen

Het project ggml-org/llama.cpp bracht op 25 okt 2026 een oplossing uit. Die voegt een controle toe die de verwerking stopt zodra JSON dieper dan 128 niveaus is genest, en een 400-foutmelding terugstuurt. Voorheen kon extreem diep geneste JSON de stack van de HTTP-thread laten overlopen en de llama-server laten crashen (met SIGBUS op macOS en SIGSEGV op Linux). De wijziging geldt voor chatinvoer, toolaanroepen en het endpoint /v1/systemone. Xuan Son Nguyen van Hugging Face werkte mee aan de oplossing.

Waarom het ertoe doet

Ontwikkelaars die llama.cpp gebruiken, kunnen erop rekenen dat de server stabieler werkt bij het verwerken van complexe JSON-payloads.

Was dit artikel nuttig?
Delen

Lees ook

Oossa · Nieuwsbrief

De AI-week, uitgelegd

Elke maandag: het nieuws dat ertoe doet, in gewone taal. Gratis, geen spam.