오픈소스 llama.cpp 라이브러리가 이제 Qualcomm Hexagon NPU에서 softplus 활성화 함수를 실행해, 지원되는 Android 기기의 성능을 높입니다.
짧은 소식작성: OossaOossa 게시일: 1 분 읽기
llama.cpp 프로젝트가 2026년 10월 17일 버전 b11703을 출시했습니다. 이번 버전에는 Qualcomm의 Hexagon NPU(HVX)에서 실행되는 벡터화 softplus 함수가 추가됐습니다. 새 헬퍼는 기존 Hexagon exp 및 log 연산을 사용하므로 CPU 버전과 수학적 계산은 동일합니다. 이 변경 사항은 Snapdragon CPU, Adreno GPU, Hexagon NPU를 지원하는 Android arm64 빌드에 포함됐습니다.
개발자는 Hexagon NPU가 탑재된 휴대전화에서 LLM 추론을 더 빠르게 실행할 수 있어, llama.cpp를 저전력 환경에서 활용할 수 있는 범위가 넓어집니다.
모델
OpenAI가 크롬용 ChatGPT 확장 기능을 개선했습니다. 여러 탭의 정보를 비교하고, 양식 작성이나 탭 정리 같은 작업을 요청할 수 있습니다.
모델
AI 칩 수요는 견조하지만, 코어위브의 대규모 부채와 높은 채권 수익률이 데이터센터 투자 자금의 회수 가능성에 의문을 키웠습니다.
모델
베이징의 새 규제안은 대형 AI 모델과 AI 도구 23종의 수출을 제한하지만, 오픈소스 공개에는 신속 허가 절차를 도입한다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.
