오픈소스 LLM 런타임이 새로운 저비트 형식을 지원해 Snapdragon 칩에서 더 효율적으로 실행됩니다.
짧은 소식작성: OossaOossa 게시일: 최종 업데이트: 1 분 읽기
llama.cpp 프로젝트가 Qualcomm의 Hexagon NPU용 Q1_0 및 Q2_0 양자화를 지원하는 새 버전을 출시했습니다. 이번 업데이트에는 오버헤드를 줄이기 위한 타일링 및 벡터 내적 연산 개선도 포함됐습니다. Snapdragon CPU, Adreno GPU, Hexagon NPU를 대상으로 하는 Linux 및 Windows 빌드와 기타 플랫폼에서 사용할 수 있습니다. 변경 사항은 개발자 가이드에 문서화됐으며 릴리스 증명 자료에도 서명돼 있습니다.
개발자는 이제 Snapdragon 기반 휴대폰과 태블릿에서 더 큰 언어 모델을 더 낮은 지연 시간과 전력 소모로 실행할 수 있습니다.
모델
Canva의 새 AI 모델은 세밀한 레이아웃과 편집 가능한 텍스트를 갖춘 최대 2K 이미지를 생성한다. Dream Lab과 API를 통해 이용할 수 있다.
모델
힌디어와 핀란드어를 포함해 음성 14종을 추가했다. 기존 생성형 음성 이용자는 코드 변경이나 요금 인상 없이 업그레이드를 이용할 수 있다.
모델
Uber는 직원 1,000명을 대상으로 한 시범 운영에 이어 전 세계 직원들이 ChatGPT Work를 사용하게 된다고 밝혔다. 도입 비용은 공개하지 않았다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.
