پروژه llama.cpp نسخه b11847 را با اصلاحی برای ساختهای HIP ویژه GPUهای AMD RDNA3 و RDNA4 منتشر کرد. این تغییر برای عملوندهای BF16 که به دستورهای ماتریسی AMD داده میشوند از بردارهای `short` شانزدهبیتی استفاده میکند؛ با بازتفسیر مقادیر، بیتهای آنها بدون تغییر میماند.
در فهرست انتشار، ساختهای Ubuntu x64 برای ROCm 10.0 آمده است. مشخص نشده که این بستههای ازپیشساختهشده اصلاح موردنظر را هم دارند یا نه؛ بنابراین ممکن است کاربران لازم باشد برنامه را از کد منبع بهروزشده بسازند.
چرا مهم است
توسعهدهندگانی که llama.cpp را با HIP برای نسلهای یادشده از GPUهای AMD میسازند، دیگر نباید با این خطای کامپایل مشخص روبهرو شوند؛ بااینحال، فهرست انتشار تأیید نمیکند کدام بستههای ازپیشساختهشده این اصلاح را دارند.