ggml-org 팀이 llama.cpp b11769 버전을 출시했습니다. 이번 업데이트는 서버 라우터가 클라이언트의 연결 종료 신호를 하위 프로세스에 완전히 전달하지 않아 요청 취소가 지연될 수 있던 버그를 수정했습니다. 이 변경과 함께 타이밍에 민감한 테스트도 제거했습니다. macOS Apple Silicon, macOS Intel, iOS 및 여러 Ubuntu 버전용 사전 빌드 바이너리도 새로 제공됩니다.
왜 중요한가
개발자는 요청 취소가 더 안정적으로 이뤄지는 환경에서 llama.cpp를 로컬로 실행해, 중단된 작업에 컴퓨팅 자원이 낭비되는 일을 줄일 수 있습니다.