Oossa

llama.cpp b12318, CUDA 디버그 버퍼 풀 추가

오픈소스 LLaMA 추론 라이브러리가 CUDA 디버그 버퍼 풀을 추가하고 macOS, iOS, Linux용 바이너리 빌드를 업데이트했다.

짧은 소식작성: Oossa 게시일: 1 분 읽기

ggml‑org가 2026‑11‑12 llama.cpp 버전 b12318을 출시했다. 이번 업데이트에는 개발자가 compute-sanitizer로 메모리 사용량을 추적할 수 있도록 돕는 CUDA 디버그 버퍼 풀이 추가됐다. Apple Silicon, Intel macOS, iOS와 여러 Ubuntu CPU 및 Vulkan 대상용 사전 빌드 바이너리도 포함됐다.

왜 중요한가

NVIDIA GPU에서 LLaMA 모델을 실행하는 개발자는 이제 메모리 문제를 더 쉽게 디버깅해 추론 중 충돌을 줄일 수 있다.

이 기사가 도움이 되었나요?
공유

다음 읽을거리

Oossa · 뉴스레터

이번 주 AI, 쉽게 정리

매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.