Oossa

llama.cpp در نسخه b11761 تبدیل fp32 به fp16 با NEON را اضافه کرد

انتشار 21 اکتبر 2026 یک ایراد پنهان در مسیر ARM NEON را برطرف می‌کند و با فعال‌کردن تبدیل سخت‌افزاری fp32 به fp16، استنتاج را در Apple Silicon و دیگر پردازنده‌های ARM سریع‌تر می‌کند.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

کتابخانه متن‌باز llama.cpp در 21 اکتبر 2026 نسخه b11761 را منتشر کرد. این نسخه شاخه NEON را اصلاح می‌کند تا تبدیل fp32 به fp16 به‌جای روش جایگزین نرم‌افزاری، از دستور سخت‌افزاری استفاده کند. این تغییر همچنین خطای زمان کامپایل اضافه می‌کند تا ناهماهنگی‌های مشابه در ماکروها شناسایی شوند. این اصلاح طبق فهرست دستگاه‌های یادشده در یادداشت‌های انتشار، برای Apple Silicon در macOS، لینوکس ARM64 و دستگاه‌های ARM اندرویدی اعمال می‌شود.

چرا مهم است

کاربران دستگاه‌های مبتنی بر ARM با استنتاج سریع‌تر مدل‌ها روبه‌رو می‌شوند، چون کتابخانه اکنون از تبدیل بومی دقت نیمه‌کاره در پردازنده استفاده می‌کند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.