Oossa

llama.cpp b12322, 메모리 사용량 줄이는 변경 적용

오픈소스 LLaMA 추론 라이브러리가 2026년 11월 12일 업데이트됐다. 사용하지 않는 그래프 메타데이터를 불러오지 않아 개발자의 RAM 사용량을 줄인다.

짧은 소식작성: Oossa 게시일: 1 분 읽기

ggml-org 팀은 2026년 11월 12일 llama.cpp의 b12322 태그를 배포했다. 이번 변경으로 그래프 결과의 메타데이터 예약 방식이 바뀌어, 예약 공간 전체를 초기화하는 대신 필요한 페이지만 할당한다. 이에 따라 추론 중 라이브러리가 사용하는 RAM이 줄어든다.

이번 업데이트는 macOS와 Windows CPU부터 Linux CUDA, Vulkan, OpenVINO 빌드까지 안내된 모든 플랫폼에서 이용할 수 있다.

왜 중요한가

메모리가 제한된 기기에서 LLaMA 모델을 실행하는 개발자는 RAM 사용량을 줄여 더 큰 모델을 실행하거나 여러 작업을 더 원활하게 동시에 처리할 수 있다.

이 기사가 도움이 되었나요?
공유

다음 읽을거리

Oossa · 뉴스레터

이번 주 AI, 쉽게 정리

매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.