Oossa

llama.cpp b12024, LFM-SC 텐서 처리 방식 변경

이번 릴리스는 llama.cpp의 LFM-SC 텐서 연산 방식을 바꾸고, 여러 운영체제와 프로세서 유형에 맞는 다운로드를 제공합니다.

짧은 소식작성: Oossa 게시일: 1 분 읽기

ggml-org 팀이 llama.cpp b12024를 공개했습니다. 이번 릴리스에서는 LFM-SC의 행렬 곱셈 작업을 재구성해 3D 텐서 대신 2D 텐서를 사용하도록 바꿨습니다. 릴리스 페이지에는 macOS, iOS와 CPU·Vulkan 빌드를 포함한 여러 Linux 구성용 다운로드가 올라와 있습니다.

릴리스 노트에는 LFM-SC 변경으로 속도가 개선되는지, 다른 모델에도 영향이 있는지는 나와 있지 않습니다.

왜 중요한가

llama.cpp에서 LFM-SC를 실행하는 사용자는 새 릴리스를 시험해 볼 수 있지만, 릴리스 노트만으로는 성능 향상 여부를 알 수 없습니다.

이 기사가 도움이 되었나요?
공유

다음 읽을거리

Oossa · 뉴스레터

이번 주 AI, 쉽게 정리

매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.