Oossa

تغییر رفتار سرور llama.cpp در نسخه b12419 با رشته‌های توقف خالی

در این نسخه، سرور llama.cpp رشته‌های توقف خالی را نادیده می‌گیرد. همچنین نسخه‌های قابل‌دانلودی برای چند سیستم‌عامل و نوع پردازنده ارائه شده است.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

تیم ggml-org نسخه b12419 از llama.cpp را منتشر کرد که تغییری در سرور آن دارد: سرور اکنون رشته‌های توقف خالی را نادیده می‌گیرد. رشته‌های توقف، دنباله‌هایی از متن هستند که به مدل می‌گویند چه زمانی پاسخ را پایان دهد.

صفحه انتشار، نسخه‌هایی برای macOS، iOS و Linux فهرست کرده است؛ از جمله نسخه‌های CPU و Vulkan برای برخی سیستم‌های Linux.

چرا مهم است

کسانی که از سرور llama.cpp استفاده می‌کنند می‌توانند رشته‌های توقف خالی وارد کنند، بی‌آنکه سرور آن‌ها را به‌عنوان دنباله‌های توقف در نظر بگیرد؛ یادداشت‌های انتشار درباره تغییرات رفتاری دیگر توضیحی نمی‌دهند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.