이번 릴리스는 Hexagon 하드웨어에서 Lightning Indexer 연산을 초기 지원하며, 프리필과 디코드를 위한 HMX 경로를 포함합니다.
짧은 소식작성: OossaOossa 게시일: 1 분 읽기
llama.cpp 프로젝트의 b12099 릴리스는 Hexagon 하드웨어에서 Lightning Indexer 연산을 초기 지원합니다. 프리필과 디코드를 위한 HMX 가속 경로와 함께 q8_0 디코드 게더링, q4_0 입력도 지원합니다. 릴리스 페이지에는 CPU, Adreno GPU, Hexagon NPU를 사용하는 Snapdragon 기기용 Linux 및 Android 빌드가 나와 있으며, 설정 가이드 링크도 포함돼 있습니다.
Snapdragon 기기에서 llama.cpp를 사용하는 개발자는 새 Hexagon 경로를 시험해 볼 수 있습니다. 다만 릴리스 노트에는 성능 수치나 모델 호환성에 관한 정보가 없습니다.
모델
오픈AI는 챗GPT에서 웹 검색이 실행된 질문이 구글 전체 검색량의 약 5분의 1이라고 밝혔습니다. 주간 사용자는 12억명을 넘었습니다.
모델
GDPx는 11개 전문 분야의 206개 과제를 평가했습니다. 1위 모델도 금융·법률 업무를 끝까지 완수하지 못한 사례가 나왔습니다.
모델
OpenAI는 자사 모델이 회로 기판부터 펌웨어까지, Codex와 대화하는 기기 설계를 도왔다고 밝혔다. 시제품을 완성하기까지는 여러 차례 수정이 필요했다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.
