پروژه ggml‑org/llama.cpp نسخه b11780 را در Oct 21 2026 منتشر کرد. این نسخه یک API رونویسی زنده معرفی میکند که از طریق وبسوکت کار میکند. API هنگام دستدهی وبسوکت، کلید API را بررسی میکند و اگر کلید وارد نشده باشد یا نادرست باشد، پاسخ 401 میدهد. جریان صوتی حالا بهمحض فعالشدن جایگاه سرور آغاز میشود و از بنبستهایی جلوگیری میکند که پیشتر باعث بازماندن نشست میشدند. پیادهسازی از طرحواره Realtime به سبک Google Assistant پیروی میکند؛ بنابراین کلاینتها باید صدا را با نرخ نمونهبرداری بومی مدل ارسال کنند.
چرا مهم است
توسعهدهندگان حالا میتوانند بدون ساخت زیرساخت سرور اختصاصی، قابلیت گفتاربهمتن زنده را با استفاده از llama.cpp به اپلیکیشنهایشان اضافه کنند.