Het project ggml‑org/llama.cpp bracht op 21 oktober 2026 versie b11780 uit. Deze versie introduceert een API voor realtime transcriptie via websockets. De API controleert de API-sleutel tijdens de websocket-handshake en geeft een 401-foutmelding als de sleutel ontbreekt of onjuist is. Audiostreams starten nu zodra de serverplek actief is, zodat deadlocks worden voorkomen die de sessie eerder openhielden. De implementatie volgt het Realtime-schema van Google Assistant, waardoor clients audio moeten versturen met de oorspronkelijke samplefrequentie van het model.
Waarom het ertoe doet
Ontwikkelaars kunnen nu live spraak-naar-tekst toevoegen aan apps met llama.cpp, zonder zelf serverinfrastructuur te hoeven bouwen.
