llama.cpp가 Hexagon 하드웨어의 top-k 샘플링을 변경해, 결과에 들지 못하는 블록은 정렬하지 않도록 했다. 속도 향상 수치는 공개되지 않았다.
짧은 소식작성: OossaOossa 게시일: 1 분 읽기
ggml-org 팀은 2026년 11월 4일, Hexagon 백엔드의 top-k 샘플링 경로를 개선한 llama.cpp b12094를 출시했다. top-k 샘플링은 텍스트를 생성할 때 점수가 가장 높은 후보 중에서 선택하는 방식이다.
이번 변경은 k 값이 2~64이고 행의 항목 수가 1,024개를 초과할 때 적용된다. 최종 후보가 될 수 없는 블록은 정렬하지 않지만, 이번 릴리스에는 측정된 속도 향상 수치가 제시되지 않았다.
지원되는 Hexagon 하드웨어에서 llama.cpp를 실행하는 사용자는 해당 작업에서 더 효율적인 샘플링 방식을 이용할 수 있다. 다만 실제 사용 시 속도가 얼마나 향상되는지는 이번 릴리스에서 수치로 공개하지 않았다.
모델
오픈AI는 챗GPT에서 웹 검색이 실행된 질문이 구글 전체 검색량의 약 5분의 1이라고 밝혔습니다. 주간 사용자는 12억명을 넘었습니다.
모델
GDPx는 11개 전문 분야의 206개 과제를 평가했습니다. 1위 모델도 금융·법률 업무를 끝까지 완수하지 못한 사례가 나왔습니다.
모델
OpenAI는 자사 모델이 회로 기판부터 펌웨어까지, Codex와 대화하는 기기 설계를 도왔다고 밝혔다. 시제품을 완성하기까지는 여러 차례 수정이 필요했다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.
