O projeto ggml-org/llama.cpp lançou a versão b11780 em 21 de outubro de 2026. A atualização introduz uma API de transcrição em tempo real que funciona por WebSocket. A API verifica a chave de API durante o handshake do WebSocket e retorna 401 se a chave estiver ausente ou incorreta. Agora, os fluxos de áudio começam assim que o slot do servidor fica ativo, evitando deadlocks que antes mantinham a sessão aberta. A implementação segue o esquema Realtime no estilo Google Assistant, por isso os clientes precisam enviar áudio na taxa de amostragem nativa do modelo.
Por que importa
Desenvolvedores agora podem adicionar conversão de fala em texto ao vivo a aplicativos com llama.cpp sem precisar criar a própria infraestrutura de servidor.
