Det öppna källkodsprojektet llama.cpp har släppt en ny version med stöd för classifier_pooling, en inställning som används av ModernBERT-rerankers. Ändringen gör att biblioteket kan läsa och skriva pooling-typen, som får värdet mean om inget annat anges. Det interna fältnamnet har också ändrats till pooling_type_cls. Uppdateringen finns för en rad operativsystem och typer av hårdvara, från Mac-datorer med Apple Silicon till Linux-GPU:er och Android-enheter.
Varför det spelar roll
Det gör llama.cpp mer användbart för sök- och rankningsuppgifter på många olika enheter.
