オープンソースプロジェクトのllama.cppが新バージョンを公開し、ModernBERT rerankerで使われる設定項目classifier_poolingに対応した。この変更により、ライブラリはプーリング方式を読み書きできるようになり、指定がない場合はmeanが既定値となる。また、内部フィールド名はpooling_type_clsに変更された。今回の更新は、Apple Silicon搭載MacからLinux GPU、Android端末まで、幅広いOSやハードウェアで利用できる。
なぜ重要か
さまざまなデバイスで、検索やランキングのタスクにllama.cppを活用しやすくなる。