Oossa

llama.cpp, b11786에서 CPU GELU 커널 속도 개선

오픈소스 LLM 런타임이 룩업 테이블 없이 완전한 정밀도로 GELU 함수를 계산하도록 CPU 연산을 업데이트했다.

짧은 소식작성: Oossa 게시일: 1 분 읽기

ggml-org/llama.cpp 프로젝트가 2026-10-21 버전 b11786을 출시했다. 이번 업데이트에는 f32 gelu_quick 및 geglu_quick 함수를 직접 계산하는 새로운 CPU 커널이 추가돼 fp16 룩업 테이블이 필요 없어졌다. 해당 커널의 테스트도 추가됐으며, 기존 inf/nan 테스트 사례는 제거됐다. 이제 macOS, iOS 및 여러 Linux 배포판용 사전 빌드 바이너리를 다운로드할 수 있다.

왜 중요한가

새 커널은 속도가 느린 룩업 테이블을 사용하지 않아 CPU에서 LLM을 더 빠르게 실행할 수 있다.

이 기사가 도움이 되었나요?
공유

다음 읽을거리

Oossa · 뉴스레터

이번 주 AI, 쉽게 정리

매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.