오픈소스 Llama 추론 라이브러리가 RMS_NORM 연산에서 BF16 정밀도를 지원합니다. macOS, iOS, Linux용 바이너리도 제공됩니다.
짧은 소식작성: OossaOossa 게시일: 1 분 읽기
ggml-org 팀은 2026-11-13에 llama.cpp 버전 b12366을 공개했습니다. 이번 업데이트로 CPU와 CUDA 백엔드의 RMS_NORM 레이어에서 BF16(16비트 부동소수점 형식)을 지원합니다. 이제 하나의 헬퍼가 F32/BF16 RMS_NORM 커널을 실행합니다. macOS Apple Silicon, Intel, iOS와 여러 Ubuntu 버전용 사전 빌드 바이너리를 다운로드할 수 있습니다.
BF16을 선호하는 하드웨어에서 Llama 모델을 더 빠르게 실행하고, 정확도를 크게 떨어뜨리지 않으면서 메모리 사용량을 줄일 수 있습니다.
모델
OpenAI의 새 ChatGPT Wallet은 토큰화된 카드 정보로 미국 Pro 가입자의 ‘닷’ 에이전트가 상품을 구매할 수 있게 한다.
모델
케이블 회사와 차량등록국, 식당 등에 전화할 수 있지만, 합성 음성을 알아채고 끊는 업체도 여전히 많다.
모델
아웃룩·팀즈·코파일럿에 접속 문제가 생겼고, 챗GPT와 클로드의 일부 업무 연결 기능도 영향을 받았습니다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.
