Oossa

llama.cpp, Vulkan 백엔드에 TOP_K_MASK 추가

오픈소스 llama.cpp 라이브러리가 Vulkan 지원을 업데이트해 TOP_K_MASK 기능을 추가하고, 관련 장벽 처리와 헤더 선언 문제를 수정했습니다.

짧은 소식작성: Oossa 게시일: 1 분 읽기

ggml‑org/llama.cpp 프로젝트가 2026‑11‑13 새 버전을 출시했습니다. 이번 업데이트에서는 Vulkan GPU 백엔드에 TOP_K_MASK 연산을 추가하고, 해당 마스크와 관련된 장벽 처리 문제를 수정했으며, 공통 헤더에 함수 선언을 넣었습니다. 이번 변경에는 Claude Opus 5.5의 지원이 있었습니다.

왜 중요한가

GPU 사용자는 추론 과정에서 top-k 마스킹을 적용해 토큰 선택을 더 세밀하게 제어할 수 있습니다.

이 기사가 도움이 되었나요?
공유

다음 읽을거리

Oossa · 뉴스레터

이번 주 AI, 쉽게 정리

매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.