오픈소스 Llama 추론 라이브러리 llama.cpp가 b11555로 업데이트됐다. F16C를 지원하는데도 사용하지 않던 AVX2 CPU 문제를 수정하고, macOS·iOS·Linux용 새 빌드를 공개했다.
짧은 소식작성: OossaOossa 게시일: 1 분 읽기
ggml‑org가 llama.cpp 버전 b11555를 출시했다. 이번 업데이트에서는 F16C 명령어 세트를 지원하는 AVX2 CPU에서도 이를 사용하지 않던 버그를 수정했다. macOS Apple Silicon과 macOS Intel, iOS용 바이너리 패키지와 Vulkan 및 CUDA 12.8을 지원하는 구성을 포함한 여러 Ubuntu용 패키지도 새로 제공한다.
호환되는 CPU에서 Llama 모델을 실행하는 개발자는 수동으로 패치를 적용하지 않아도 추론 속도를 높일 수 있다.
모델
Vals AI 연구에 따르면 여러 에이전트를 쓰면 단일 모델보다 토큰을 최대 5배 더 쓰지만 품질 향상은 거의 없다.
모델
Odyssey‑3는 이제 텍스트 입력만으로 3D 세계를 생성하고 실행할 수 있다. 무료 온라인 데모를 이용할 수 있으며 API 접근도 신청할 수 있다.
모델
Claude 기반 에이전트 3개로 구성된 새 검토 시스템이 핵심 주장 오류의 73.43%를 찾아냈다. 기존 최고 기록인 14.81%를 크게 웃도는 수치다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.
