Oossa

llama.cpp, Prism Bonsai 2 27B 모델 지원 추가

오픈소스 llama.cpp 라이브러리(v b11556)로 이제 macOS와 Linux에서 27B 파라미터 Prism Bonsai 2 모델을 실행할 수 있습니다.

짧은 소식작성: Oossa 게시일: 1 분 읽기

ggml-org가 llama.cpp 버전 b11556을 출시했습니다. 이번 업데이트에서는 Prism Bonsai 2 27B 모델의 런타임 지원이 추가됐습니다. Hadamard 텐서 처리 문제를 수정하고 변환 코드도 정리했습니다. macOS(Apple Silicon 및 Intel)와 Ubuntu(x64, arm64, s390x)용 사전 빌드 바이너리도 제공됩니다.

왜 중요한가

개발자는 이제 27B 파라미터 규모의 Prism Bonsai 2 모델을 자신의 컴퓨터에서 로컬로 실행할 수 있습니다.

이 기사가 도움이 되었나요?
공유

다음 읽을거리

Oossa · 뉴스레터

이번 주 AI, 쉽게 정리

매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.