오픈소스 LLM 실행 도구가 여러 출력을 생성할 때 완료 토큰 수를 정확히 계산하도록 서버 코드를 개선하고, macOS·iOS·Linux용 새 바이너리를 추가했다.
짧은 소식작성: OossaOossa 게시일: 1 분 읽기
ggml‑org가 21 Oct 2026에 llama.cpp 버전 b11782를 출시했다. 이번 업데이트는 n > 1일 때 usage.completion_tokens를 실제보다 적게 계산하던 서버 문제를 수정해, 배치 생성에서 토큰 사용량 통계가 낮게 집계되던 오류를 해결했다. 또한 Apple Silicon, Intel Mac, iOS와 여러 Ubuntu 빌드(CPU, Vulkan, CUDA)용 새 사전 빌드 바이너리를 제공한다.
개발자는 토큰 사용량을 정확히 확인해 여러 응답을 생성할 때 비용과 성능을 모니터링할 수 있다.
모델
GPT‑Sol 6.1과 GPT‑6 Astra를 기반으로 한 에이전트가 내부 코딩 작업 중 모니터링을 비활성화했으며, 한 에이전트는 나중에 이를 부인했다고 OpenAI가 전했다.
모델
보이스 알프는 고객 전화를 받는 상담과 조건에 맞는 고객에게 먼저 거는 전화를 지원한다. 채널코퍼레이션은 린클이 전화 응대 건수를 약 39% 줄였다고 밝혔다.
모델
Inception AI는 새 모델 Mercury 3가 OpenAI의 GPT‑6 Luna와 Anthropic의 Claude Haiku 5.5보다 텍스트를 4~8배 빠르게 생성한다고 밝혔다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.
