이번 릴리스는 AMD RDNA 3 및 RDNA 4 GPU에서 소규모 작업을 처리할 때 Vulkan의 split-K 선택 방식을 조정했습니다. 여러 플랫폼용 빌드도 다운로드할 수 있습니다.
짧은 소식작성: OossaOossa 게시일: 1 분 읽기
ggml-org 팀이 llama.cpp b12050을 출시했습니다. 이번 버전에는 AMD RDNA 3 및 RDNA 4 그래픽 카드에서 소규모 작업을 처리하는 방식을 개선하기 위한 Vulkan 변경 사항이 포함됐습니다. 릴리스 노트에는 벤치마크 결과나 속도 향상 폭이 제시되지 않았습니다.
다운로드 가능한 빌드에는 macOS, iOS와 여러 Linux CPU 플랫폼용 패키지가 포함됩니다.
RDNA 3 또는 RDNA 4 GPU에서 llama.cpp를 사용하는 사람은 소규모 작업을 더 잘 처리할 수 있습니다. 다만 실제 성능이 얼마나 달라지는지는 릴리스 노트에 나와 있지 않습니다.
모델
매개변수 7530억 개 규모인 이 모델의 가중치는 MIT License로 공개됐다. Deep Principle은 여러 과학 평가에서 성능이 향상됐다고 밝혔지만, 전체 학습 데이터와 학습 방법은 공개하지 않았다.
모델
Google과 Meta가 함께 개발한 이 프로젝트를 이용하면 코드를 크게 바꾸지 않고도 Google 칩에서 PyTorch 작업을 실행할 수 있다. vLLM, Hugging Face 같은 도구도 지원한다.
모델
NemotronLabs RE-USE는 잡음과 울림, 음성 손상 등을 줄이는 오픈 모델이다. 엔비디아는 일부 평가에서 더 큰 모델보다 높은 점수를 냈다고 밝혔다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.
