오픈소스 프로젝트 llama.cpp가 ModernBERT 재정렬 모델에서 사용하는 설정인 classifier_pooling을 지원하는 새 버전을 공개했습니다. 이번 변경으로 라이브러리에서 풀링 유형을 읽고 쓸 수 있으며, 별도로 지정하지 않으면 기본값은 mean으로 설정됩니다. 내부 필드 이름도 pooling_type_cls로 바뀌었습니다. 이번 업데이트는 Apple Silicon Mac부터 Linux GPU, Android 기기까지 다양한 운영체제와 하드웨어에서 사용할 수 있습니다.
왜 중요한가
다양한 기기에서 검색 및 순위 지정 작업에 llama.cpp를 더 유용하게 활용할 수 있습니다.