Le projet ggml‑org/llama.cpp a publié la version b11780 le 21 oct. 2026. Celle-ci introduit une API de transcription en temps réel qui fonctionne via WebSocket. L’API vérifie la clé API lors de la négociation WebSocket et renvoie une erreur 401 si la clé est absente ou incorrecte. Les flux audio démarrent désormais dès que le créneau du serveur est actif, ce qui évite les interblocages qui maintenaient auparavant la session ouverte. L’implémentation suit le schéma Realtime de type Google Assistant : les clients doivent donc envoyer l’audio à la fréquence d’échantillonnage native du modèle.
Pourquoi c'est important
Les développeurs peuvent désormais intégrer la transcription vocale en direct dans leurs applications avec llama.cpp, sans avoir à créer leur propre infrastructure serveur.
