Oossa

پشتیبانی llama.cpp از کانولوشن عمقی OpenCL در نسخه b11827

نسخه b11827 کتابخانه متن‌باز llama.cpp با کرنل‌های جدید کانولوشن عمقی OpenCL و فایل‌های اجرایی برای macOS، iOS و Linux منتشر شد.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

تیم ggml‑org نسخه b11827 از llama.cpp را منتشر کرد. این به‌روزرسانی کرنل‌های OpenCL برای کانولوشن دوبعدی عمقی (depthwise conv2d) را اضافه می‌کند و از پردازنده‌های گرافیکی Qualcomm Adreno هم پشتیبانی می‌کند. فایل‌های اجرایی ازپیش‌ساخته‌شده اکنون برای macOS با Apple Silicon، مک‌های مجهز به پردازنده Intel، iOS و چندین پلتفرم Ubuntu (با CPU و Vulkan) در دسترس‌اند. این تغییرات را OpenCode و Li He، مهندس Qualcomm، ارائه کرده‌اند.

چرا مهم است

توسعه‌دهندگان اکنون می‌توانند مدل‌های llama.cpp را روی دستگاه‌های مجهز به پردازنده گرافیکی OpenCL سریع‌تر اجرا کنند و گزینه‌های سخت‌افزاری کم‌مصرف‌تری در اختیار داشته باشند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.