Oossa

شتاب‌دهی softplus در llama.cpp با Hexagon

کتابخانه متن‌باز llama.cpp اکنون عملیات softplus را روی NPU پردازنده Hexagon کوالکام اجرا می‌کند؛ قابلیتی که عملکرد را در دستگاه‌های اندرویدی پشتیبانی‌شده بهبود می‌دهد.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

پروژه llama.cpp نسخه b11703 را در 17 اکتبر 2026 منتشر کرد. این نسخه تابع برداری‌شده softplus را اضافه می‌کند که روی NPU پردازنده Hexagon کوالکام (HVX) اجرا می‌شود. این تابع کمکی از primitiveهای موجود Hexagon برای exp و log استفاده می‌کند؛ بنابراین محاسبات مانند نسخه CPU باقی می‌مانند. این تغییر در بخش ساخت Android arm64 ثبت شده که از پردازنده‌های Snapdragon، پردازنده‌های گرافیکی Adreno و NPUهای Hexagon پشتیبانی می‌کند.

چرا مهم است

توسعه‌دهندگان اکنون می‌توانند استنتاج LLM را روی گوشی‌های مجهز به NPUهای Hexagon سریع‌تر اجرا کنند و کاربردهای کم‌مصرف llama.cpp را گسترش دهند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.