오픈소스 라이브러리 llama.cpp 버전 b11789에 행렬 연산 속도를 높이는 새 OpenCL 커널이 추가됐으며, macOS·iOS·Ubuntu용 바이너리도 새로 제공된다.
짧은 소식작성: OossaOossa 게시일: 1 분 읽기
ggml‑org 팀이 llama.cpp 버전 b11789를 출시했다. 이번 업데이트에는 벡터 방식으로 활성화 값을 불러오는 OpenCL용 dp4a GEMM(행렬 곱셈) 변형이 추가됐고, 관련 커널과 환경 변수의 이름도 변경됐다. Apple Silicon, Intel macOS, iOS와 여러 Ubuntu 빌드(CPU, Vulkan, CUDA)용 사전 빌드 바이너리도 제공된다. 이번 변경은 dp4a 명령어를 지원하는 GPU의 성능 향상을 목표로 한다.
호환되는 GPU에서 개발자가 llama.cpp를 더 빠르게 실행할 수 있어, 로컬 LLM 애플리케이션의 추론 시간을 줄일 수 있다.
모델
힌디어와 핀란드어를 포함해 음성 14종을 추가했다. 기존 생성형 음성 이용자는 코드 변경이나 요금 인상 없이 업그레이드를 이용할 수 있다.
모델
Uber는 직원 1,000명을 대상으로 한 시범 운영에 이어 전 세계 직원들이 ChatGPT Work를 사용하게 된다고 밝혔다. 도입 비용은 공개하지 않았다.
모델
새로운 Forest Typology 2020 지도는 10미터 단위로 전 세계 토지를 자연림, 조림지, 농업용 산림 등으로 분류하고, 2017~2025년 연도별 변화를 보여준다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.
