이번 릴리스는 배치 크기가 1보다 큰 경우를 포함해 Adreno GPU용 타일형 q4_K 행렬 연산을 추가합니다.
짧은 소식작성: OossaOossa 게시일: 1 분 읽기
ggml-org의 llama.cpp b11971 릴리스는 Adreno GPU용 타일형 OpenCL q4_K 행렬 연산을 추가합니다. 배치 크기가 1보다 큰 경우에는 q4_K 언어 모델의 출력 계층도 이 연산을 사용하도록 변경됐습니다.
이번 릴리스는 macOS, iOS 및 여러 Linux 플랫폼용 다운로드 빌드를 제공합니다. 릴리스 노트에는 성능 측정 결과가 없어 Adreno 관련 변경이 속도나 리소스 사용량에 어떤 영향을 미치는지는 분명하지 않습니다.
Adreno 하드웨어에서 llama.cpp를 실행하는 개발자는 새로운 OpenCL 경로를 시험해 볼 수 있지만, 릴리스 노트에는 추론 속도가 빨라지는지에 대한 설명이 없습니다.
모델
Artificial Analysis의 Intelligence Index v5에서 Google Gemini 4 Carbon이 최고점을 받았다. Google은 일반 공개 대신 일부 사용자에게만 순차적으로 제공하고 있다.
모델
Google이 Gemini의 Personal Intelligence를 켠 미국 사용자를 대상으로 Gmail 정보를 바탕으로 한 Chrome 자동완성 기능을 선보입니다.
모델
오픈 웨이트 모델인 Nemotron 3.5는 40개 언어를 받아쓰고, 번역과 화자 구분, 오디오 질문 답변도 지원한다. 개발자는 Hugging Face와 ModelScope에서 내려받을 수 있다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.
