تیم ggml-org نسخه b12419 از llama.cpp را منتشر کرد که تغییری در سرور آن دارد: سرور اکنون رشتههای توقف خالی را نادیده میگیرد. رشتههای توقف، دنبالههایی از متن هستند که به مدل میگویند چه زمانی پاسخ را پایان دهد.
صفحه انتشار، نسخههایی برای macOS، iOS و Linux فهرست کرده است؛ از جمله نسخههای CPU و Vulkan برای برخی سیستمهای Linux.
چرا مهم است
کسانی که از سرور llama.cpp استفاده میکنند میتوانند رشتههای توقف خالی وارد کنند، بیآنکه سرور آنها را بهعنوان دنبالههای توقف در نظر بگیرد؛ یادداشتهای انتشار درباره تغییرات رفتاری دیگر توضیحی نمیدهند.