Oossa

llama.cpp b11769, 라우터 연결 끊김 처리 개선

오픈소스 llama.cpp 라이브러리 b11769 버전은 서버 라우팅을 개선해 요청을 신속히 취소하고, macOS·Linux·iOS용 새 바이너리를 추가했습니다.

짧은 소식작성: Oossa 게시일: 1 분 읽기

ggml-org 팀이 llama.cpp b11769 버전을 출시했습니다. 이번 업데이트는 서버 라우터가 클라이언트의 연결 종료 신호를 하위 프로세스에 완전히 전달하지 않아 요청 취소가 지연될 수 있던 버그를 수정했습니다. 이 변경과 함께 타이밍에 민감한 테스트도 제거했습니다. macOS Apple Silicon, macOS Intel, iOS 및 여러 Ubuntu 버전용 사전 빌드 바이너리도 새로 제공됩니다.

왜 중요한가

개발자는 요청 취소가 더 안정적으로 이뤄지는 환경에서 llama.cpp를 로컬로 실행해, 중단된 작업에 컴퓨팅 자원이 낭비되는 일을 줄일 수 있습니다.

이 기사가 도움이 되었나요?
공유

다음 읽을거리

Oossa · 뉴스레터

이번 주 AI, 쉽게 정리

매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.