Oossa

llama.cpp b12530, WebAssembly SIMD 지원 추가

이번 버전은 llama.cpp의 WebAssembly 커널을 업데이트하고 q3_K 및 q6_K 형식을 지원합니다. 여러 플랫폼에서 내려받을 수 있는 빌드도 제공합니다.

짧은 소식작성: Oossa 게시일: 1 분 읽기

ggml-org가 WebAssembly를 업데이트한 llama.cpp b12530을 출시했습니다. relaxed SIMD 커널을 수정하고 q3_K 및 q6_K 모델 형식 지원을 추가했습니다. 출시 페이지에는 macOS, iOS와 여러 Linux 시스템용 다운로드도 올라와 있습니다.

이번 버전에는 Ubuntu x64, arm64, s390x 등을 위한 CPU 빌드가 포함됩니다. 출시 노트에는 WebAssembly 변경으로 속도가 얼마나 달라지는지 나와 있지 않습니다.

왜 중요한가

WebAssembly용 llama.cpp를 빌드하는 개발자는 새로 추가된 q3_K 및 q6_K 지원을 활용할 수 있습니다. 다만 출시 노트에는 성능 변화가 수치로 제시되지 않았습니다.

이 기사가 도움이 되었나요?
공유

다음 읽을거리

Oossa · 뉴스레터

이번 주 AI, 쉽게 정리

매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.