ggml-org 팀이 llama.cpp 버전 b11795를 출시했습니다. 이번 업데이트로 서버에서 /v1/messages 엔드포인트의 extra_params 필드에 지정한 샘플링 매개변수를 변경 없이 전달할 수 있습니다. macOS(Apple Silicon 및 Intel), iOS용 사전 빌드 바이너리와 Ubuntu CPU 및 Vulkan용 빌드도 추가됐습니다.
왜 중요한가
개발자는 별도의 코드를 추가하지 않고도 API를 통해 생성 설정을 조정할 수 있어, llama.cpp를 앱에 더 빠르게 통합할 수 있습니다.