ggml-org의 llama.cpp b11977 릴리스는 OpenVINO 백엔드가 슬라이스된 텐서 뷰에서 SCALE 연산을 처리하는 방식을 수정했습니다. 이전에는 스트라이드가 적용된 뷰를 원본 텐서 전체로 취급해 결과가 필요 이상으로 커지고 테스트가 중단될 가능성이 있었습니다.
이번 수정으로 뷰를 슬라이스로 처리하며, 비연속 뷰에 대한 제자리 SCALE 연산은 거부합니다. 결과를 다시 복사하는 과정에서 잘못된 요소에 값을 쓸 수 있기 때문입니다. 이번 릴리스에는 macOS, Linux, Android, Windows 등 여러 플랫폼용 빌드도 포함돼 있습니다.
왜 중요한가
llama.cpp의 OpenVINO 백엔드에서 슬라이스된 텐서를 사용하는 개발자에게 이번 수정은 테스트가 중단되거나 잘못된 요소에 결과가 기록될 수 있는 문제를 해결합니다.
