Oossa

llama.cpp v0.13, 바이너리 연산 DMA 지원 확대

오픈소스 llama.cpp 라이브러리가 2026년 10월 13일 새 버전을 출시해 여러 플랫폼의 바이너리 연산에서 DMA 브로드캐스팅 지원을 확대했습니다.

짧은 소식작성: Oossa 게시일: 1 분 읽기

ggml-org 팀이 2026년 10월 13일 llama.cpp 릴리스 b11580을 공개했습니다. 이번 업데이트에서는 바이너리 연산을 위한 스칼라 DMA(직접 메모리 접근) 지원을 확대하고, repeat 및 복소수 데이터를 위한 새 커널을 추가했습니다. DMA를 사용하지 않는 경로를 정리하고 비연속 스트라이드도 지원합니다. 이번 변경 사항은 Linux, Windows, macOS, Android의 CPU, CUDA, Vulkan 및 Hexagon NPU 빌드에 적용됩니다. 이제 개발자는 Apple Silicon부터 Snapdragon 칩까지 다양한 기기에서 텐서 연산을 더 효율적으로 실행할 수 있습니다.

왜 중요한가

개발자는 더 다양한 하드웨어에서 llama.cpp 모델을 더 빠르게 실행할 수 있어 최종 사용자의 추론 시간을 줄일 수 있습니다.

이 기사가 도움이 되었나요?
공유

다음 읽을거리

Oossa · 뉴스레터

이번 주 AI, 쉽게 정리

매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.