이번 llama.cpp 릴리스는 ReBAR 지원 여부를 감지해 지원되지 않는 경우 BAR 할당을 피합니다. 여러 운영체제와 하드웨어용 빌드를 제공합니다.
짧은 소식작성: OossaOossa 게시일: 1 분 읽기
ggml-org 팀이 Vulkan 관련 변경 사항을 담은 llama.cpp b12171을 출시했습니다. 시스템의 ReBAR(Resizable BAR) 지원 여부를 감지하고, 지원되지 않으면 BAR 할당을 피합니다. 릴리스 페이지에는 macOS, iOS, Linux용 다운로드 빌드가 올라와 있으며, 일부 플랫폼에서는 CPU 및 Vulkan 버전도 제공됩니다.
릴리스 노트에는 어떤 하드웨어나 작업에서 실제 차이가 나타날지 설명돼 있지 않습니다.
ReBAR를 지원하지 않는 시스템에서 Vulkan으로 llama.cpp를 실행하는 사용자를 위해 BAR 할당을 피하도록 한 변경입니다. 릴리스 노트에는 성능이나 메모리 사용량에 미치는 영향이 수치로 제시돼 있지 않습니다.
모델
Ripple-65B는 코딩 평가 두 가지에서 더 큰 오픈웨이트 모델을 앞섰습니다. 다만 다른 평가에서는 뒤졌고, 비교 결과는 회사가 제시했습니다.
모델
부모는 학교 크롬북에서 제미나이를 사용한 딸이 수개월간 자살 관련 대화를 나눴다고 주장합니다. 구글은 소송을 검토 중이라고 밝혔습니다.
모델
다윈-180B-RSI-R3는 19개 모델 평가에서 73.68점을 받았다. 종합 점수는 9위였고, 다른 평가 영역에서는 경쟁 모델에 뒤졌다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.
