llama.cpp新增实时转录API

开源项目llama.cpp的服务器现已支持实时语音转文字接口，并处理API密钥验证和WebSocket握手。

简讯作者： OossaOossa 发布日期: 2026年10月21日 04:38 UTC1 分钟阅读

ggml‑org/llama.cpp项目于2026年10月21日发布b11780版本。该版本新增了通过WebSocket运行的实时转录API。API会在WebSocket握手期间检查API密钥；如果密钥缺失或错误，将返回401。服务器槽位就绪后，音频流会立即启动，从而避免此前会让会话一直处于打开状态的死锁问题。该实现采用Google Assistant风格的Realtime架构，因此客户端必须以模型的原生采样率发送音频。