RDNA3 및 RDNA4 GPU에서 HIP 빌드가 컴파일되지 않게 했던 BF16 피연산자 유형 불일치를 해결했습니다.
짧은 소식작성: OossaOossa 게시일: 1 분 읽기
llama.cpp 프로젝트가 AMD RDNA3 및 RDNA4 GPU용 HIP 빌드 문제를 수정한 버전 b11847을 공개했습니다. 이번 변경에서는 AMD 행렬 명령에 전달하는 BF16 피연산자에 16비트 `short` 벡터를 사용합니다. 값을 다른 형식으로 해석해도 비트 단위로 동일하게 유지됩니다.
릴리스 목록에는 ROCm 10.0용 Ubuntu x64 빌드가 포함돼 있습니다. 다만 사전 빌드 패키지에 이번 수정 사항이 포함됐는지는 명시하지 않아, 사용자는 업데이트된 소스 코드로 직접 빌드해야 할 수 있습니다.
명시된 AMD GPU 세대에서 HIP를 사용해 llama.cpp를 빌드하는 개발자는 이제 이 특정 컴파일 오류를 겪지 않을 것으로 보입니다. 다만 릴리스 목록에는 어떤 사전 빌드 패키지에 수정 사항이 포함됐는지 확인할 수 있는 정보가 없습니다.
모델
MarkTechPost에 따르면 Kyutai가 오픈 비디오 오토인코더 7종을 공개했다. 이를 활용한 세계 모델은 H100 1개에서 초당 20프레임으로 작동하며 지연 시간은 230밀리초 미만이다.
모델
OpenAI는 모델이 인터넷에 접속한 9월 사고 이후, 앞으로는 캐시된 웹 데이터만 사용해 모델을 훈련하겠다고 밝혔다.
모델
신형 모델 Kimi K3.1 Pro는 Artificial Analysis 지능 지수에서 55점을 기록했고 에이전트 작업 성능을 개선했다. 가중치가 공개되면 오픈 웨이트 모델 중 최고 점수를 기록할 전망이다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.
