Oossa

llama.cpp b11761, ARM NEON의 fp32→fp16 변환 지원

2026년 10월 21일 출시된 이번 버전은 ARM NEON 경로의 숨은 버그를 수정해 하드웨어 fp32→fp16 변환을 지원합니다. Apple Silicon을 비롯한 ARM CPU에서 추론 속도가 빨라집니다.

짧은 소식작성: Oossa 게시일: 1 분 읽기

오픈소스 llama.cpp 라이브러리가 2026년 10월 21일 버전 b11761을 출시했습니다. 이번 업데이트는 NEON 경로를 수정해 fp32→fp16 변환에 소프트웨어 대체 방식 대신 하드웨어 명령어를 사용하도록 했습니다. 비슷한 매크로 불일치를 찾아낼 수 있도록 컴파일 시 오류를 발생시키는 기능도 추가했습니다. 릴리스 노트에 명시된 macOS Apple Silicon, Linux ARM64, Android ARM 기기에 적용됩니다.

왜 중요한가

ARM 기반 기기에서 라이브러리가 프로세서의 기본 반정밀도 변환 기능을 사용하게 돼 모델 추론 속도가 빨라집니다.

이 기사가 도움이 되었나요?
공유

다음 읽을거리

Oossa · 뉴스레터

이번 주 AI, 쉽게 정리

매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.