Oossa

llama.cpp, CUDA SSM 컨볼루션 크기 7 지원 추가

ggml-org/llama.cpp v b11770에 SSM 컨볼루션용 새 CUDA 커널이 추가됐으며, macOS, iOS, Linux용 새 바이너리도 제공됩니다.

짧은 소식작성: Oossa 게시일: 1 분 읽기

오픈소스 llama.cpp 라이브러리가 2026년 10월 21일 버전 b11770을 출시했습니다. 이번 업데이트에는 폭 7의 SSM(상태 공간 모델) 컨볼루션을 지원하는 CUDA 커널이 추가됐습니다. Apple Silicon, Intel macOS, iOS와 CPU·Vulkan·CUDA 12.8 버전을 포함한 여러 Ubuntu 빌드용 사전 컴파일 바이너리도 새로 제공됩니다.

왜 중요한가

새 커널 덕분에 개발자는 Nvidia GPU에서 SSM 기반 대형 모델을 더 빠르게 실행할 수 있습니다.

이 기사가 도움이 되었나요?
공유

다음 읽을거리

Oossa · 뉴스레터

이번 주 AI, 쉽게 정리

매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.