أصدر فريق ggml-org الإصدار llama.cpp b11849، مضيفًا دعم عملية SGN لمعمارية المعالجات Hexagon من Qualcomm. وتذكر ملاحظات الإصدار أن التغيير يشمل دعم الدقة النصفية وتحسينًا يستخدم بت الإشارة.
يوفر الإصدار أيضًا نسخًا لأنظمة macOS وiOS وUbuntu، تشمل نسخًا تعمل على وحدة المعالجة المركزية بمعماريات x64 وarm64 وs390x. ولا توضح الملاحظات الأجهزة أو أعباء العمل التي ستشهد تحسنًا عمليًا في السرعة أو الأداء.
لماذا يهم
يمكن للمطورين الذين يستخدمون llama.cpp مع عتاد Hexagon الاستفادة من عملية SGN الجديدة، لكن ملاحظات الإصدار لا تحدد مقدار تأثيرها في أداء النماذج.
