Oossa

llama.cpp b11623 مسیر کانولوشن تازه‌ای برای GPUهای AMD افزود

این نسخه مسیر conv2d مبتنی بر SIMT را برای GPUهای AMD فاقد پشتیبانی از WMMA اضافه می‌کند. پروژه درباره بهبود عملکرد این تغییر عددی ارائه نکرده است.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

تیم ggml-org نسخه llama.cpp b11623 را منتشر کرده و در آن مسیر implicit GEMM مبتنی بر SIMT را برای کانولوشن‌های دوبعدی روی GPUهای AMD فاقد پشتیبانی از WMMA افزوده است. این تغییر برای کاهش‌های کوتاه از این مسیر استفاده نمی‌کند؛ یادداشت‌های انتشار سرعت آن را مشخص نمی‌کنند و نمی‌گویند کدام کارت‌های AMD از آن بهره می‌برند. نسخه‌های قابل دانلود برای macOS، iOS و چند پلتفرم لینوکس فهرست شده‌اند.

چرا مهم است

برای توسعه‌دهندگانی که llama.cpp را روی GPUهای AMD اجرا می‌کنند، این تغییر در نبود WMMA مسیر کانولوشن تازه‌ای فراهم می‌کند؛ اما یادداشت‌های انتشار درباره اثر آن بر عملکرد و سخت‌افزارهای پشتیبانی‌شده توضیح روشنی نمی‌دهند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.