llama.cpp b11345에서 Hexagon의 q2_k 및 q3_k 양자화를 지원하며, 여러 플랫폼용 빌드도 내려받을 수 있습니다.
짧은 소식작성: OossaOossa 게시일: 1 분 읽기
ggml-org 팀이 llama.cpp b11345를 출시하고 Hexagon에서 q2_k 및 q3_k 양자화 유형을 지원한다고 밝혔습니다. 양자화는 모델 데이터를 더 적은 비트로 저장하는 방식입니다. 다만 릴리스 노트에는 어떤 기기나 모델에서 이점을 얻을 수 있는지, 성능이 어떻게 달라지는지는 나와 있지 않습니다.
이번 릴리스에는 CPU 및 Vulkan 빌드를 포함해 macOS, iOS와 여러 Linux 구성용 다운로드도 제공됩니다.
지원되는 Hexagon 하드웨어에서 llama.cpp를 실행하는 사용자는 q2_k 또는 q3_k로 양자화된 모델을 사용할 수 있을지도 모릅니다. 다만 릴리스 노트에는 호환 기기나 성능 변화가 구체적으로 명시돼 있지 않습니다.
모델
Canva의 새 AI 모델은 세밀한 레이아웃과 편집 가능한 텍스트를 갖춘 최대 2K 이미지를 생성한다. Dream Lab과 API를 통해 이용할 수 있다.
모델
힌디어와 핀란드어를 포함해 음성 14종을 추가했다. 기존 생성형 음성 이용자는 코드 변경이나 요금 인상 없이 업그레이드를 이용할 수 있다.
모델
Uber는 직원 1,000명을 대상으로 한 시범 운영에 이어 전 세계 직원들이 ChatGPT Work를 사용하게 된다고 밝혔다. 도입 비용은 공개하지 않았다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.
