ggml-org 팀이 2026년 10월 13일 llama.cpp 릴리스 b11580을 공개했습니다. 이번 업데이트에서는 바이너리 연산을 위한 스칼라 DMA(직접 메모리 접근) 지원을 확대하고, repeat 및 복소수 데이터를 위한 새 커널을 추가했습니다. DMA를 사용하지 않는 경로를 정리하고 비연속 스트라이드도 지원합니다. 이번 변경 사항은 Linux, Windows, macOS, Android의 CPU, CUDA, Vulkan 및 Hexagon NPU 빌드에 적용됩니다. 이제 개발자는 Apple Silicon부터 Snapdragon 칩까지 다양한 기기에서 텐서 연산을 더 효율적으로 실행할 수 있습니다.
왜 중요한가
개발자는 더 다양한 하드웨어에서 llama.cpp 모델을 더 빠르게 실행할 수 있어 최종 사용자의 추론 시간을 줄일 수 있습니다.