O projeto de código aberto llama.cpp lançou uma nova versão com suporte a classifier_pooling, uma configuração usada por rerankers ModernBERT. A mudança permite que a biblioteca leia e grave o tipo de pooling, usando mean como padrão quando nenhum valor é especificado. O campo interno também foi renomeado para pooling_type_cls. A atualização está disponível para uma ampla variedade de sistemas operacionais e equipamentos, de Macs com Apple Silicon a GPUs Linux e dispositivos Android.
Por que importa
A atualização torna o llama.cpp mais útil para tarefas de busca e classificação em vários dispositivos.
