이번 llama.cpp 업데이트는 WebGPU 백엔드에 Q2_0 행 역양자화와 행렬 곱셈을 추가했다. 릴리스 노트에는 성능 수치가 공개되지 않았다.
짧은 소식작성: OossaOossa 게시일: 1 분 읽기
ggml-org 팀이 WebGPU 백엔드에 Q2_0 지원을 추가한 llama.cpp b11809를 출시했다. 릴리스 노트에 따르면 이번 변경에는 행 역양자화와 행렬 곱셈이 모두 포함된다. 속도, 하드웨어 호환성, 메모리 사용량에 관한 결과는 공개되지 않아 실제 성능에 어떤 영향을 미칠지는 알 수 없다.
WebGPU로 llama.cpp를 사용하는 개발자는 Q2_0 모델을 시험해 볼 수 있지만, 릴리스 노트에는 특정 기기에서 얼마나 원활하게 실행될지에 대한 정보가 없다.
모델
힌디어와 핀란드어를 포함해 음성 14종을 추가했다. 기존 생성형 음성 이용자는 코드 변경이나 요금 인상 없이 업그레이드를 이용할 수 있다.
모델
Uber는 직원 1,000명을 대상으로 한 시범 운영에 이어 전 세계 직원들이 ChatGPT Work를 사용하게 된다고 밝혔다. 도입 비용은 공개하지 않았다.
모델
새로운 Forest Typology 2020 지도는 10미터 단위로 전 세계 토지를 자연림, 조림지, 농업용 산림 등으로 분류하고, 2017~2025년 연도별 변화를 보여준다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.
