Oossa

llama.cpp b12419, 빈 중단 문자열 무시하도록 서버 변경

이번 버전에서는 llama.cpp 서버가 빈 중단 문자열을 무시합니다. 여러 운영체제와 프로세서용 빌드도 내려받을 수 있습니다.

짧은 소식작성: Oossa 게시일: 1 분 읽기

ggml-org 팀이 서버 변경 사항을 담은 llama.cpp b12419를 출시했습니다. 이제 서버는 빈 중단 문자열을 무시합니다. 중단 문자열은 모델이 응답을 끝낼 시점을 알려주는 텍스트 시퀀스입니다.

출시 페이지에는 macOS, iOS, Linux용 빌드가 올라와 있으며, 일부 Linux 시스템에서는 CPU 및 Vulkan 버전도 제공됩니다.

왜 중요한가

llama.cpp 서버를 사용하는 사람은 빈 중단 문자열을 입력해도 서버가 이를 중단 시퀀스로 처리하지 않게 할 수 있습니다. 출시 노트에는 그 밖의 동작 변경 사항은 설명돼 있지 않습니다.

이 기사가 도움이 되었나요?
공유

다음 읽을거리

Oossa · 뉴스레터

이번 주 AI, 쉽게 정리

매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.