오픈소스 LLM 런타임이 OpenCL용 F32→I32 argmax 기능과 macOS, Linux, iOS용 새 바이너리를 선보였습니다.
짧은 소식작성: OossaOossa 게시일: 1 분 읽기
ggml‑org가 2026‑10‑22에 llama.cpp 버전 b11804를 출시했습니다. 이번 업데이트에는 32비트 부동소수점 수에서 32비트 정수 argmax를 계산하는 OpenCL 루틴이 추가돼 GPU 추론 속도가 향상됩니다. Apple Silicon, Intel macOS, iOS와 여러 Ubuntu 버전용(CPU, Vulkan, CUDA) 새 사전 빌드 바이너리도 포함됐습니다. 변경 사항은 OpenCode와 Qualcomm의 Li He가 작성했습니다.
이제 개발자는 OpenCL 호환 GPU에서 llama.cpp 모델을 더 빠르게 실행할 수 있어, 취미용 AI 프로젝트에 활용할 수 있는 하드웨어 선택지가 넓어집니다.
모델
Flint는 총 400억 개, 활성 파라미터 25억 개를 갖췄으며 MacBook Pro에서 초당 125토큰을 생성합니다.
모델
새 Flint 모델은 262K 토큰 컨텍스트 창과 초기 Mac 지원을 바탕으로 대규모 프로젝트의 코드를 이해하고 수정하도록 돕습니다.
모델
Google의 Gemini AI가 미국을 시작으로 CarPlay의 Google 지도에서 음성 내비게이션 질문에 답합니다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.
