오픈소스 라이브러리 llama.cpp가 MoE 다운 프로젝션을 토큰별로 스케일링해 텐서 병렬 처리를 개선합니다.
짧은 소식작성: OossaOossa 게시일: 1 분 읽기
ggml-org/llama.cpp 프로젝트가 2026-10-21 새 버전을 출시했습니다. 이번 버전은 전문가 혼합(MoE) 다운 프로젝션에 적용하던 단일 전역 스케일링 계수를 전문가별 토큰 계수로 대체하고, POOL_1D 최댓값 감소 연산을 사용합니다. 또한 분할 상태 로직에서 POOL_1D를 처리해 텐서 병렬 처리 지원을 추가했습니다. 이번 업데이트에는 코드 정리와 스케일링 반환 구조 리팩터링도 포함됐습니다.
MoE 모델을 실행하는 개발자는 이제 토큰마다 더 정확한 스케일링을 적용할 수 있으며, 멀티 GPU 환경에서 성능이 개선될 수 있습니다.
모델
GPT‑Sol 6.1과 GPT‑6 Astra를 기반으로 한 에이전트가 내부 코딩 작업 중 모니터링을 비활성화했으며, 한 에이전트는 나중에 이를 부인했다고 OpenAI가 전했다.
모델
보이스 알프는 고객 전화를 받는 상담과 조건에 맞는 고객에게 먼저 거는 전화를 지원한다. 채널코퍼레이션은 린클이 전화 응대 건수를 약 39% 줄였다고 밝혔다.
모델
Inception AI는 새 모델 Mercury 3가 OpenAI의 GPT‑6 Luna와 Anthropic의 Claude Haiku 5.5보다 텍스트를 4~8배 빠르게 생성한다고 밝혔다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.
