오픈소스 LLM 런타임이 새 바이너리와 GPU에서 데이터를 더 오래 유지하는 최적화 기능을 출시했다.
짧은 소식작성: OossaOossa 게시일: 1 분 읽기
ggml‑org 팀은 2026‑10‑21에 llama.cpp 버전 b11792를 출시했다. 이번 업데이트에서는 set_rows 호출을 변경해 데이터를 GPU에 유지할 수 있도록 했으며, GPU 사용자의 처리 속도를 높인다. 이제 macOS Apple Silicon, macOS Intel, iOS 및 여러 Ubuntu 빌드(CPU, Vulkan, CUDA 12.8)용 사전 빌드 바이너리를 이용할 수 있다. 릴리스 링크는 GitHub 태그 페이지에 게시됐다.
릴리스 노트에는 이번 변경 사항이 “d2t를 set_rows에서 사용하도록 배치해 GPU에 유지할 수 있도록 함 (#30912)”이라고 기재돼 있다.
개발자는 호환되는 GPU에서 추가 데이터 전송 없이 Llama 모델을 더 빠르게 실행할 수 있다.
모델
힌디어와 핀란드어를 포함해 음성 14종을 추가했다. 기존 생성형 음성 이용자는 코드 변경이나 요금 인상 없이 업그레이드를 이용할 수 있다.
모델
Uber는 직원 1,000명을 대상으로 한 시범 운영에 이어 전 세계 직원들이 ChatGPT Work를 사용하게 된다고 밝혔다. 도입 비용은 공개하지 않았다.
모델
새로운 Forest Typology 2020 지도는 10미터 단위로 전 세계 토지를 자연림, 조림지, 농업용 산림 등으로 분류하고, 2017~2025년 연도별 변화를 보여준다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.
