ggml‑org/llama.cppプロジェクトは、2026年10月21日にバージョンb11780をリリースした。WebSocket経由で動作するリアルタイム文字起こしAPIが新たに導入された。このAPIはWebSocketのハンドシェイク時にAPIキーを確認し、キーがないか無効な場合は401を返す。サーバーのスロットが利用可能になるとすぐに音声ストリームを開始するようになり、以前はセッションが終了しない原因となっていたデッドロックを防ぐ。Google Assistant形式のRealtimeスキーマに準拠しているため、クライアントはモデル本来のサンプルレートで音声を送信する必要がある。
なぜ重要か
開発者は独自のサーバー基盤を構築せずに、llama.cppを使ってアプリに音声のリアルタイム文字起こし機能を追加できる。