Oossa

به‌روزرسانی llama.cpp نویز مسیریابی MoE را برطرف می‌کند

نسخهٔ ۲۰ اکتبر ۲۰۲۶ امتیازدهی مسیریاب MoE را اصلاح می‌کند و نام‌های CPU و GPU در Apple Silicon را شفاف‌تر نشان می‌دهد.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

کتابخانهٔ llama.cpp در ۲۰ اکتبر ۲۰۲۶ نسخهٔ جدیدی منتشر کرد. در این نسخه، مسیریابِ مدل‌های ترکیبیِ متخصصان (MoE) طوری تغییر کرده که انتخاب متخصص دیگر به نویز تصادفیِ بک‌اند وابسته نباشد. این اصلاح برای هر متخصص بازهٔ امتیازدهی جداگانه‌ای در نظر می‌گیرد و اختلاف خروجی‌ها را از 4e‑3 به کمتر از 5e‑7 کاهش می‌دهد. در همین به‌روزرسانی، نام واقعی دستگاه‌های Apple، مانند M2 Ultra، به جدول‌های آزمون اضافه شده تا بتوان نتایج CPU و GPU را از هم تشخیص داد.

چرا مهم است

توسعه‌دهندگانی که از llama.cpp روی Apple Silicon استفاده می‌کنند، خروجی‌های باثبات‌تری از مدل‌ها و گزارش‌های عملکرد شفاف‌تری خواهند دید.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.