ggml-org 팀이 할당된 버퍼 범위를 벗어나 데이터를 쓸 수 있는 두 가지 상황을 수정한 llama.cpp b11972를 출시했습니다. 첫 번째 수정은 제어 벡터의 레이어 인덱스가 모델의 레이어 수를 초과하면 이를 거부합니다. 두 번째 수정은 이미지 격자 크기가 병합 크기와 맞지 않을 때 패치 수를 초과하지 않도록 여러 비전 인코더의 이미지 위치 계산 반복문을 조정했습니다. 이제 PaddleOCR의 그래프를 빌드할 때도 이미지 크기를 병합 크기에 맞춰야 합니다.
왜 중요한가
비전 입력이나 제어 벡터를 사용하는 모델을 실행할 때 이와 같은 상황에서 메모리 손상을 피할 수 있습니다. 다만 릴리스 노트에는 이런 상황이 얼마나 자주 발생하는지 수치가 제시되지 않았습니다.