ggml-org 팀이 Laguna 모델의 YaRN 베타 메타데이터를 불러오도록 변경한 llama.cpp b11598을 공개했습니다. 릴리스 페이지에서는 macOS, iOS, Linux용 다운로드를 제공하며, Linux용 CPU 및 Vulkan 빌드도 포함됩니다.
릴리스 노트에는 메타데이터 변경으로 사용자가 체감할 수 있는 차이가 무엇인지 설명이 없습니다. 벤치마크 결과나 Laguna 모델 지원에 관한 추가 정보도 제공하지 않습니다.
왜 중요한가
llama.cpp로 Laguna 모델을 실행하는 사용자는 YaRN 베타 메타데이터를 불러오는 릴리스를 이용할 수 있습니다. 다만 릴리스 노트에는 실제로 어떤 변화가 있을지 설명이 없습니다.