오픈소스 LLM 실행 도구가 Hexagon 백엔드를 업데이트해 Snapdragon 칩의 연결 연산 속도를 높였다.
짧은 소식Oossa1 분 읽기
ggml‑org/llama.cpp 프로젝트가 2026년 9월 30일 사전 릴리스 빌드(tag b11272)를 공개했다. 이번 빌드에는 언어 모델 추론에서 자주 사용되는 연결(concat) 연산을 Hexagon에 맞게 최적화한 기능이 추가됐다. 이 변경으로 패킷 오버헤드를 줄이고 더 빠른 나눗셈 루틴을 사용해 데이터를 옮기는 핫 루프의 속도를 높였다. 이번 업데이트는 Android Snapdragon 기기의 Hexagon NPU를 비롯해 다양한 플랫폼용 빌드가 포함된 더 큰 릴리스 작업의 일부다.
Snapdragon 휴대전화에서 LLM을 실행할 때 체감 속도가 빨라져 기기 내 AI 작업의 지연 시간이 줄어든다.
모델
OpenAI의 신형 GPT‑6.1 Sol은 성능 향상을 내세우면서도 토큰 100만 개당 2~10달러의 가격을 유지해 Anthropic의 Claude와 DeepSeek 모델보다 저렴한 가격을 제시했다.
모델
새 v4와 v4 Turbo 음성의 요금은 문자 1,000자당 각각 0.08달러와 0.04달러다. 10월 12일까지는 프로모션 가격인 0.022달러와 0.011달러가 적용된다.
모델
Oracle의 새 Fusion Claw 런타임은 AI가 추론을 맡고 계산은 모델 외부에서 처리하도록 해, 인력 배치와 회계 같은 여러 단계의 업무를 Fusion 앱에서 수행할 수 있게 한다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.
| # | 출처 | 매체 | 날짜 | 핵심 내용 |
|---|---|---|---|---|
| 1 | ggml-org/llama.cpp b11272 ↗ | llama.cpp | 2026. 9. 30. | <details open> hexagon: optimize concat op (#29673) * hex-concat: reduce pkts in gather/transpose hot loop gather directly into dst buffer, |
1 개 출처
