Oossa

llama.cpp b11623 يضيف مسارًا للالتفاف على وحدات AMD GPU

يضيف الإصدار مسار conv2d قائمًا على SIMT لوحدات AMD GPU التي لا تدعم WMMA. ولم يذكر المشروع أرقامًا للأداء.

خبر موجزبقلم نشرته Oossa: 1 دقائق قراءة

أصدر فريق ggml-org النسخة llama.cpp b11623، مضيفًا مسار GEMM ضمنيًا قائمًا على SIMT لعمليات الالتفاف ثنائية الأبعاد على وحدات AMD GPU التي لا تدعم WMMA. ويتجاوز التغيير هذا المسار أيضًا عند التعامل مع عمليات الاختزال القصيرة؛ ولا تحدد ملاحظات الإصدار مقدار السرعة التي يحققها أو بطاقات AMD المستفيدة منه. وتتوفر روابط تنزيل لنسخ macOS وiOS وعدة منصات Linux.

لماذا يهم

يوفر ذلك للمطورين الذين يشغّلون llama.cpp على وحدات AMD GPU مسارًا للالتفاف عند عدم توفر WMMA، لكن ملاحظات الإصدار لا توضح أثره على الأداء أو العتاد الذي يدعمه.

هل كان هذا المقال مفيدًا؟
مشاركة

اقرأ أيضًا

Oossa · النشرة البريدية

أسبوع الذكاء الاصطناعي، مشروحًا

كل يوم اثنين: الأخبار التي تستحق المعرفة، بلغة بسيطة. مجانًا وبلا رسائل مزعجة.