오픈소스 llama.cpp 라이브러리에서 Hexagon 기기가 대형 텐서를 여러 버퍼로 나눠 저장할 수 있게 됐으며, 기본 동적 버퍼 크기는 512 MB로 늘었다.
짧은 소식작성: OossaOossa 게시일: 1 분 읽기
llama.cpp 프로젝트가 2026‑10‑08 버전 b11490을 공개했다. 이번 버전은 Hexagon의 "alloc_buffer_n" API를 지원해 대형 텐서를 여러 버퍼로 나눌 수 있다. 대형 모델에서 성능이 떨어지는 현상을 막기 위해 기본 동적 버퍼 크기도 128 MB에서 512 MB로 늘렸다. 임베딩 오프로드를 지원하지 않는 기기에서 명령줄을 간소화하는 새 플래그 "--no-embd-offload"도 추가됐다. 이번 변경에는 Jhen‑Jie Hong도 공동 작성자로 참여했다.
Hexagon 기반 하드웨어를 사용하는 개발자는 버퍼 크기를 수동으로 조정하지 않고도 더 큰 언어 모델을 효율적으로 실행할 수 있다.
모델
Claude 기반 에이전트 3개로 구성된 새 검토 시스템이 핵심 주장 오류의 73.43%를 찾아냈다. 기존 최고 기록인 14.81%를 크게 웃도는 수치다.
모델
Mistral의 신규 1조 매개변수 모델은 독립 지수에서 38점을 기록했지만, 경쟁 오픈 모델보다 작업당 비용이 높다.
모델
OpenAI는 AI로 만든 콘텐츠를 실제 언론에 퍼뜨려 허위 보도를 심으려 한 영향력 공작 2건을 공개하고, 관련 계정을 차단했다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.
