Oossa

llama.cpp, 실시간 음성 인식 API 추가

오픈소스 llama.cpp 서버가 실시간 음성-텍스트 변환 엔드포인트를 지원합니다. API 키 인증과 웹소켓 핸드셰이크도 처리합니다.

짧은 소식작성: Oossa 게시일: 1 분 읽기

ggml‑org/llama.cpp 프로젝트가 2026년 10월 21일 버전 b11780을 출시했습니다. 이번 버전에는 웹소켓으로 작동하는 실시간 음성 인식 API가 추가됐습니다. API는 웹소켓 핸드셰이크 과정에서 API 키를 확인하며, 키가 없거나 잘못된 경우 401을 반환합니다. 이제 서버 슬롯이 활성화되는 즉시 오디오 스트림이 시작돼, 이전에는 세션이 열린 채로 멈추게 했던 교착 상태를 방지합니다. 구현은 Google Assistant 스타일의 Realtime 스키마를 따르므로, 클라이언트는 모델의 기본 샘플링 레이트로 오디오를 전송해야 합니다.

왜 중요한가

개발자는 자체 서버 인프라를 구축하지 않고도 llama.cpp를 사용해 앱에 실시간 음성-텍스트 변환 기능을 추가할 수 있습니다.

이 기사가 도움이 되었나요?
공유

다음 읽을거리

Oossa · 뉴스레터

이번 주 AI, 쉽게 정리

매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.