Oossa

llama.cpp, 모든 백엔드에서 비연속 텐서 SUM 지원

ggml‑org/llama.cpp 라이브러리가 CPU, CUDA, Vulkan, WebGPU에서 비연속 텐서의 SUM 연산을 지원합니다.

짧은 소식작성: Oossa 게시일: 1 분 읽기

오픈소스 llama.cpp 라이브러리가 2026‑10‑18 비연속 텐서의 SUM 연산을 지원하는 새 버전을 출시했습니다. 이 변경 사항은 CPU, CUDA, Vulkan, WebGPU 백엔드에서 작동하며, 테스트 스위트에도 이러한 뷰를 다루는 사례가 추가됐습니다. 이번 업데이트에서는 macOS, Linux, Android, Windows용 사전 빌드 바이너리도 늘어났습니다. Apple Silicon, Intel, AMD, NVIDIA CUDA 12/13, Snapdragon NPU 등 다양한 하드웨어 조합을 지원합니다. 다운로드 링크는 프로젝트 웹사이트와 인증 자료에서 확인할 수 있습니다.

왜 중요한가

개발자는 더 많은 기기에서 빠르고 메모리 효율적인 합산 연산을 실행할 수 있어 LLM 추론 파이프라인의 성능을 높일 수 있습니다.

이 기사가 도움이 되었나요?
공유

다음 읽을거리

Oossa · 뉴스레터

이번 주 AI, 쉽게 정리

매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.