Oossa

llama.cpp b11755, 9개 전문가 토큰용 MoE 커널 추가

오픈소스 llama.cpp 프로젝트가 2026년 10월 20일 버전 b11755를 공개하고, MoE 모델에 필요한 Metal GPU 커널을 수정했다.

짧은 소식작성: Oossa 게시일: 1 분 읽기

ggml-org/llama.cpp 라이브러리가 2026년 10월 20일 버전 b11755를 공개했다. 이번 업데이트는 혼합 전문가(MoE) 모델에서 토큰당 전문가 9개를 지원하는 누락된 Metal 커널 변형을 추가했다. macOS(Apple Silicon 및 Intel), iOS, 여러 Ubuntu 빌드(CPU, Vulkan, CUDA 12)용 바이너리를 다운로드할 수 있다.

왜 중요한가

개발자는 이제 Apple Silicon GPU에서 MoE 기반 LLM을 실행할 수 있어 macOS 기기에서 선택할 수 있는 모델이 늘어난다.

이 기사가 도움이 되었나요?
공유

다음 읽을거리

Oossa · 뉴스레터

이번 주 AI, 쉽게 정리

매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.