Oossa

llama.cpp, Hexagon의 대용량 DMA 전송 오류 수정

b12030은 전송 스트라이드가 16 MB 이상일 때 Hexagon DMA 대체 경로에서 잘못된 메모리 주소가 발생하던 문제를 수정합니다.

짧은 소식작성: Oossa 게시일: 1 분 읽기

ggml-org/llama.cpp b12030 릴리스는 스트라이드가 16 MB 이상일 때 발생하는 Hexagon 메모리 전송 오류를 수정합니다. Hexagon v75 이상에서는 DMA 디스크립터가 행 크기와 스트라이드를 24비트로 저장합니다. 기존 대체 경로는 행 단위로 전송을 나눴지만, 그래도 지나치게 큰 스트라이드 값이 잘려 잘못된 주소로 이어질 수 있었습니다. 이번 수정은 이런 경우 행마다 전송을 한 번씩 수행하며, 릴리스에는 소스 스트라이드가 16 MB를 넘는 CONT 테스트 2개도 추가됐습니다.

왜 중요한가

영향을 받는 Hexagon 하드웨어에서 llama.cpp를 실행하는 사용자는 스트라이드가 매우 큰 전송 중 잘못된 메모리 주소가 발생하는 일을 방지할 수 있습니다. 다만 릴리스 노트에는 이런 문제가 발생하는 워크로드가 무엇인지는 나와 있지 않습니다.

이 기사가 도움이 되었나요?
공유

다음 읽을거리

Oossa · 뉴스레터

이번 주 AI, 쉽게 정리

매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.