Oossa

llama.cpp b11782 verhelpt fout in tokentelling

De open-source LLM-runner past de servercode aan zodat het aantal tokens in antwoorden bij meerdere outputs correct wordt geteld. Ook zijn er nieuwe binaries voor macOS, iOS en Linux.

Kort berichtDoor Gepubliceerd door Oossa: 1 min lezen

ggml-org bracht llama.cpp versie b11782 uit op 21 okt 2026. De update verhelpt een serverprobleem waarbij usage.completion_tokens bij n > 1 te laag werd geteld. Daardoor vielen de gebruiksstatistieken voor batchgeneraties te laag uit. De release bevat ook nieuwe vooraf gebouwde binaries voor Apple Silicon, Intel-Macs, iOS en verschillende Ubuntu-builds (CPU, Vulkan, CUDA).

Waarom het ertoe doet

Ontwikkelaars krijgen zo accurate gebruikscijfers, waarmee ze de kosten en prestaties bij meerdere gegenereerde antwoorden beter kunnen volgen.

Was dit artikel nuttig?
Delen

Lees ook

Oossa · Nieuwsbrief

De AI-week, uitgelegd

Elke maandag: het nieuws dat ertoe doet, in gewone taal. Gratis, geen spam.