오픈소스 LLM 런타임의 새 버전은 macOS·iOS·Linux 빌드와 채팅 API 개편을 제공한다.
짧은 소식작성: OossaOossa 게시일: 1 분 읽기
ggml‑org 팀이 llama.cpp 릴리스 b11531을 공개했다. 이번 버전은 채팅 API를 개편하고 macOS(Apple Silicon 및 Intel), iOS, CPU·Vulkan·CUDA 12.8을 포함한 여러 Ubuntu 변형용 사전 빌드 바이너리를 제공한다. 다운로드 링크는 GitHub 릴리스 페이지에서 확인할 수 있다. 이제 사용자는 직접 컴파일하지 않고도 더 많은 플랫폼에서 LLM을 로컬로 실행할 수 있다.
개발자는 이제 더 많은 기기에서 빌드 과정을 거치지 않고 Llama 모델을 로컬로 실행할 수 있으며, Ubuntu에서 GPU 가속도 활용할 수 있다.
모델
Claude 기반 에이전트 3개로 구성된 새 검토 시스템이 핵심 주장 오류의 73.43%를 찾아냈다. 기존 최고 기록인 14.81%를 크게 웃도는 수치다.
모델
Mistral의 신규 1조 매개변수 모델은 독립 지수에서 38점을 기록했지만, 경쟁 오픈 모델보다 작업당 비용이 높다.
모델
OpenAI는 AI로 만든 콘텐츠를 실제 언론에 퍼뜨려 허위 보도를 심으려 한 영향력 공작 2건을 공개하고, 관련 계정을 차단했다.
Oossa · 뉴스레터
이번 주 AI, 쉽게 정리
매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.
