ggml-org 팀이 스트라이드 텐서 뷰의 메모리 범위 검사 방식을 변경한 llama.cpp b12102를 출시했다. 기존 검사에서는 행이 서로 겹치더라도 원본 범위 안에 있는 뷰가 거부될 수 있었고, 반대로 스트라이드가 더 넓어 원본 범위를 벗어나는 뷰 일부는 허용될 수 있었다.
업데이트된 뷰 함수는 스트라이드 정보를 텐서 생성자에 전달해 뷰가 실제로 접근하는 바이트 범위를 검사한다. 이번 릴리스는 스트라이드 뷰가 첫 번째 차원에서 연속된 요소를 시작점으로 삼는지도 단언 검사한다. macOS, Linux, Android, Windows를 비롯한 여러 플랫폼용 빌드 패키지가 제공된다.
왜 중요한가
llama.cpp를 사용하는 개발자는 수정된 검사로 범위를 벗어나는 텐서 뷰가 검증을 통과하는 일을 막을 수 있다. 릴리스 노트에는 모델 성능에 미치는 영향이 수치로 제시되지 않았다.
