Oossa

llama.cpp b12173, OpenCL에서 4개 자료형 반복 연산 지원

이번 프리릴리스는 f16, i32, i16, bf16 자료형의 반복 연산에 OpenCL 지원을 추가했습니다. 여러 플랫폼용 빌드도 제공됩니다.

짧은 소식작성: Oossa 게시일: 1 분 읽기

llama.cpp 프로젝트가 프리릴리스 b12173을 공개했습니다. 이번 버전은 f16, i32, i16, bf16 자료형의 반복 연산에 OpenCL 지원을 추가합니다. OpenCL은 지원되는 프로세서와 그래픽 하드웨어에서 연산 작업을 실행하는 방식입니다.

릴리스 페이지에는 Linux, Windows, macOS, iOS, Android 등 여러 플랫폼용 빌드와 다양한 하드웨어 및 가속기 옵션이 안내돼 있습니다. 이번 변경으로 어떤 기기나 작업에서 가장 큰 효과를 얻을지는 명시하지 않았습니다.

왜 중요한가

OpenCL을 사용하는 llama.cpp 개발자는 이 네 가지 자료형의 반복 연산을 실행할 수 있게 될 수 있습니다. 다만 릴리스 노트에는 실제로 어떤 기기에서 지원되는지 명시돼 있지 않습니다.

이 기사가 도움이 되었나요?
공유

다음 읽을거리

Oossa · 뉴스레터

이번 주 AI, 쉽게 정리

매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.