Oossa

انتشار llama.cpp نسخه b11769 با رفع مشکل قطع اتصال

نسخه b11769 کتابخانه متن‌باز llama.cpp مسیریابی سرور را به‌روزرسانی می‌کند تا درخواست‌ها سریع‌تر لغو شوند و فایل‌های باینری تازه‌ای برای macOS، Linux و iOS ارائه می‌دهد.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

تیم ggml‑org نسخه b11769 از llama.cpp را منتشر کرد. این به‌روزرسانی باگی را رفع می‌کند که باعث می‌شد روتر سرور سیگنال قطع اتصال کلاینت را به‌طور کامل به فرایندهای فرزند منتقل نکند و در نتیجه لغو درخواست به تأخیر بیفتد. این تغییر همچنین یک آزمون حساس به زمان را حذف می‌کند. فایل‌های باینری ازپیش‌ساخته‌شدهٔ تازه‌ای نیز برای macOS Apple Silicon، macOS Intel، iOS و چند نسخه از Ubuntu در دسترس قرار گرفته‌اند.

چرا مهم است

توسعه‌دهندگان می‌توانند llama.cpp را به‌صورت محلی و با لغو مطمئن‌تر درخواست‌ها اجرا کنند و از هدررفتن توان پردازشی برای کارهای متوقف‌شده بکاهند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.