llama.cpp 프로젝트가 2026-10-10에 버전 b11552를 출시했습니다. 이번 변경으로 이미 사용 중인 슬롯의 프롬프트 캐시를 새 요청이 수정하지 못하게 됩니다. 이전에는 사용 중인 슬롯이 덮어써져 생성이 잘못된 맥락으로 계속 진행되는 문제가 있었습니다. 이제 사용 중인 슬롯은 변경되지 않으며, 새 요청은 슬롯이 비워질 때까지 대기합니다.
왜 중요한가
llama.cpp를 사용하는 개발자는 여러 요청이 같은 GPU 메모리를 공유할 때 발생하는 생성 오류를 줄일 수 있습니다.