Il progetto ggml‑org/llama.cpp ha rilasciato la versione b11780 il 21 ott 2026. La novità è un’API per la trascrizione in tempo reale che funziona tramite WebSocket. Durante l’handshake WebSocket, l’API verifica la chiave API e restituisce un errore 401 se manca o non è corretta. Ora i flussi audio vengono avviati non appena lo slot del server è attivo, evitando i deadlock che in precedenza mantenevano aperta la sessione. L’implementazione segue lo schema Realtime di tipo Google Assistant, quindi i client devono inviare l’audio alla frequenza di campionamento nativa del modello.
Perché conta
Gli sviluppatori possono integrare la trascrizione vocale in diretta nelle app con llama.cpp, senza dover creare una propria infrastruttura server.
