Oossa

به‌روزرسانی llama.cpp یک کرش نادرِ کوانتیزه‌سازی را رفع کرد

نسخهٔ ۳ اکتبر ۲۰۲۶ با افزودن بررسی‌هایی، از خطاهای گردکردن نامعتبر که می‌توانستند نسخه‌های دیباگ را از کار بیندازند جلوگیری می‌کند.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

کتابخانهٔ llama.cpp در ۳ اکتبر ۲۰۲۶ با نسخهٔ b11366 به‌روزرسانی شد. این نسخه باگی را برطرف می‌کند که در آن، جست‌وجوی مقیاس کوانتیزه‌سازی می‌توانست مقادیر بی‌نهایت یا NaN تولید کند و باعث شکست یک assertion در نسخه‌های Debug شود. این اصلاح پیش از گردکردن، سطح کوانتیزه‌سازی را به بازه‌ای امن محدود می‌کند. همچنین برای چند نوع کوانتیزه‌سازی، آزمون‌های رگرسیون اضافه شده است. این تغییر در همهٔ پلتفرم‌های پشتیبانی‌شده، از macOS گرفته تا Windows و Linux، اعمال می‌شود.

چرا مهم است

توسعه‌دهندگانی که از llama.cpp استفاده می‌کنند، هنگام دیباگ‌کردن مدل‌های کوانتیزه‌شده با کرش‌های کمتری روبه‌رو می‌شوند و پایداری محیط توسعه‌شان افزایش می‌یابد.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.