Oossa

llama.cpp کرنل تکه‌ای GDN را برای CUDA و HIP اضافه کرد

نسخه b11632 در 15 اکتبر 2026 کرنل تکه‌ای GDN را برای CUDA و HIP معرفی می‌کند و پشتیبانی از SM86 و SM89 را در کارت‌های گرافیک RTX 3090 و RTX 4090 فعال می‌سازد.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

کتابخانه متن‌باز llama.cpp در 15 اکتبر 2026 نسخه b11632 را منتشر کرد. این نسخه برای CUDA و HIP کرنل تکه‌ای GDN (نرمال‌سازی انتشار گاوسی) را اضافه می‌کند و پشتیبانی از GPU را بهبود می‌دهد. پس از آزمون‌های صحت عملکرد و بنچمارک‌های پیش‌پرکردن، مجموعه دستورالعمل‌های SM86 و SM89 روی GPUهای آزمایش‌شده از نسل‌های Ampere و Ada، از جمله RTX 3090 و RTX 4090، فعال شده‌اند. نسخه‌های قدیمی‌تر نیز اصلاحاتی دریافت کردند و کد اکنون در مرحله GDN MMA (ضرب‌وجمع ماتریسی) از API بازآرایی‌شده swizzle استفاده می‌کند.

چرا مهم است

توسعه‌دهندگان می‌توانند روی GPUهای جدیدتر Nvidia، استنتاج llama.cpp را سریع‌تر و مطمئن‌تر اجرا کنند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.