Oossa

تنظیم Vulkan در llama.cpp b12050 برای GPUهای جدید AMD

این نسخه انتخاب split-K در Vulkan را برای بارهای کاری کوچک روی GPUهای RDNA 3 و RDNA 4 شرکت AMD بهینه می‌کند. همچنین نسخه‌های قابل‌دانلودی برای چند پلتفرم ارائه می‌دهد.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

تیم ggml-org نسخه llama.cpp b12050 را منتشر کرده است. این نسخه تغییراتی در Vulkan دارد که با هدف بهبود پردازش بارهای کاری کوچک روی کارت‌های گرافیک AMD RDNA 3 و RDNA 4 انجام شده است. یادداشت‌های انتشار نتایج بنچمارک یا میزان افزایش سرعت را اعلام نمی‌کنند.

نسخه‌های قابل‌دانلود شامل بسته‌هایی برای macOS، iOS و چند پلتفرم لینوکسی مبتنی بر CPU هستند.

چرا مهم است

کاربرانی که llama.cpp را روی GPUهای RDNA 3 یا RDNA 4 اجرا می‌کنند، ممکن است پردازش بارهای کاری کوچک را بهتر تجربه کنند؛ اما یادداشت‌های انتشار نمی‌گویند عملکرد در عمل چقدر تغییر می‌کند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.