Oossa

llama.cpp, 멀티스레드 버퍼 오버런 수정

2026년 10월 15일 공개된 업데이트는 병렬 스레드가 변환 버퍼의 범위를 넘겨 쓰던 버그를 수정해 멀티코어 CPU에서 안정성을 높였습니다.

짧은 소식작성: Oossa 게시일: 1 분 읽기

ggml‑org/llama.cpp 프로젝트가 2026년 10월 15일 버전 b11633을 공개했습니다. 이번 업데이트에서는 SET_ROWS 작업의 변환 버퍼 할당 방식을 바꿔 각 스레드에 별도의 공간을 제공하도록 했습니다. 이전에는 첫 번째 스레드 이후의 스레드가 버퍼 범위를 넘어 데이터를 써 멀티스레드 실행 중 충돌이 발생했습니다. 이번 수정으로 SET_ROWS가 스레드마다 작업 하나씩 실행되도록 해 버퍼 크기가 스레드 수에 맞춰집니다.

왜 중요한가

멀티코어 CPU에서 llama.cpp를 사용하는 개발자는 모델을 병렬로 실행할 때 충돌이 줄어드는 것을 기대할 수 있습니다.

이 기사가 도움이 되었나요?
공유

다음 읽을거리

Oossa · 뉴스레터

이번 주 AI, 쉽게 정리

매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.