Oossa

llama.cpp در نسخه b11847 ساخت HIP را برای GPUهای جدید AMD اصلاح کرد

این نسخه ناسازگاری نوع عملوند BF16 را برطرف می‌کند که مانع کامپایل ساخت‌های HIP برای GPUهای RDNA3 و RDNA4 می‌شد.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

پروژه llama.cpp نسخه b11847 را با اصلاحی برای ساخت‌های HIP ویژه GPUهای AMD RDNA3 و RDNA4 منتشر کرد. این تغییر برای عملوندهای BF16 که به دستورهای ماتریسی AMD داده می‌شوند از بردارهای `short` شانزده‌بیتی استفاده می‌کند؛ با بازتفسیر مقادیر، بیت‌های آن‌ها بدون تغییر می‌ماند.

در فهرست انتشار، ساخت‌های Ubuntu x64 برای ROCm 10.0 آمده است. مشخص نشده که این بسته‌های ازپیش‌ساخته‌شده اصلاح موردنظر را هم دارند یا نه؛ بنابراین ممکن است کاربران لازم باشد برنامه را از کد منبع به‌روزشده بسازند.

چرا مهم است

توسعه‌دهندگانی که llama.cpp را با HIP برای نسل‌های یادشده از GPUهای AMD می‌سازند، دیگر نباید با این خطای کامپایل مشخص روبه‌رو شوند؛ بااین‌حال، فهرست انتشار تأیید نمی‌کند کدام بسته‌های ازپیش‌ساخته‌شده این اصلاح را دارند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.