Oossa

رفع باگ ترکیب ضرب و جمع ماتریسی در llama.cpp

نسخهٔ منتشرشده در ۷ اکتبر ۲۰۲۶، خطای بک‌اند Metal را که باعث محاسبهٔ احتمال‌های نادرست در برخی مدل‌ها می‌شد، برطرف می‌کند.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

کتابخانهٔ ggml‑org/llama.cpp نسخهٔ b11475 را در ۷ اکتبر ۲۰۲۶ منتشر کرد. این نسخه باگی را در بک‌اند Metal (پردازندهٔ گرافیکی اپل) برطرف می‌کند که در آن، عملیات ترکیبی MUL_MAT+ADD ماتریس باقیماندهٔ اشتباهی را انتخاب می‌کرد و در مدل‌هایی که در یک گام چند ضرب ماتریسی انجام می‌دهند، به نتایج نادرست می‌انجامید. این اصلاح باعث می‌شود کُدگذار عملوند درست را انتخاب کند و خروجی دقیق را در پردازنده‌های گرافیکی Metal بازگرداند.

چرا مهم است

توسعه‌دهندگانی که llama.cpp را روی پردازنده‌های گرافیکی اپل اجرا می‌کنند، اکنون خروجی‌های قابل‌اعتمادی از مدل‌ها می‌گیرند و دیگر با احتمال‌های یکنواخت قبلی روبه‌رو نمی‌شوند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.