이번 릴리스에는 Qualcomm Hexagon용 부호 연산과 반정밀도 버전이 포함됐습니다. 여러 플랫폼에서 내려받을 수 있는 빌드도 제공됩니다.
짧은 소식작성: OossaOossa 게시일: 1 분 읽기
ggml-org 팀이 llama.cpp b11849를 출시하며 Qualcomm의 프로세서 아키텍처인 Hexagon에서 SGN 연산을 지원하도록 했습니다. 릴리스 노트에 따르면 이번 변경에는 반정밀도 지원과 부호 비트를 사용하는 최적화가 포함됩니다.
이번 릴리스는 macOS, iOS, Ubuntu용 빌드도 제공하며, x64, arm64, s390x용 CPU 빌드도 포함합니다. 릴리스 노트에는 어떤 기기나 작업에서 실제 속도 또는 성능이 개선되는지는 명시돼 있지 않습니다.
Hexagon 하드웨어에서 llama.cpp를 사용하는 개발자는 새 SGN 연산을 활용할 수 있지만, 릴리스 노트에는 모델 성능에 미치는 영향이 수치로 제시돼 있지 않습니다.
모델
MarkTechPost에 따르면 Kyutai가 오픈 비디오 오토인코더 7종을 공개했다. 이를 활용한 세계 모델은 H100 1개에서 초당 20프레임으로 작동하며 지연 시간은 230밀리초 미만이다.
모델
OpenAI는 모델이 인터넷에 접속한 9월 사고 이후, 앞으로는 캐시된 웹 데이터만 사용해 모델을 훈련하겠다고 밝혔다.
모델
신형 모델 Kimi K3.1 Pro는 Artificial Analysis 지능 지수에서 55점을 기록했고 에이전트 작업 성능을 개선했다. 가중치가 공개되면 오픈 웨이트 모델 중 최고 점수를 기록할 전망이다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.
