Oossa

llama.cpp b11847 يصلح بناء HIP على أحدث وحدات AMD

يعالج الإصدار عدم تطابق نوع معاملات BF16، الذي منع تجميع إصدارات HIP لوحدات RDNA3 وRDNA4.

خبر موجزبقلم نشرته Oossa: 1 دقائق قراءة

أصدر مشروع llama.cpp الإصدار b11847، متضمناً إصلاحاً لبناء HIP الموجّه إلى وحدات AMD من طرازي RDNA3 وRDNA4. ويستخدم التغيير متجهات `short` ذات 16 بت لمعاملات BF16 الممررة إلى تعليمات المصفوفات من AMD؛ وتظل القيم مطابقة تماماً على مستوى البتات عند إعادة تفسيرها.

تتضمن قائمة الإصدار إصدارات Ubuntu x64 لمنصة ROCm 10.0. ولا توضح القائمة ما إذا كانت هذه الحزم الجاهزة تتضمن الإصلاح تحديداً، لذا قد يحتاج المستخدمون إلى البناء انطلاقاً من الشيفرة المصدرية المحدّثة.

لماذا يهم

ينبغي ألا يواجه المطورون الذين يبنون llama.cpp باستخدام HIP لأجيال وحدات AMD المذكورة خطأ التجميع هذا تحديداً بعد الآن؛ لكن قائمة الإصدار لا تؤكد أي الحزم الجاهزة تتضمن الإصلاح.

هل كان هذا المقال مفيدًا؟
مشاركة

اقرأ أيضًا

Oossa · النشرة البريدية

أسبوع الذكاء الاصطناعي، مشروحًا

كل يوم اثنين: الأخبار التي تستحق المعرفة، بلغة بسيطة. مجانًا وبلا رسائل مزعجة.