Oossa

تعديل CUDA في llama.cpp يسرّع بطاقات Volta، ومنها V100

تغيير من سطرين يوجّه Volta (sm_70) إلى جدول MMVQ الخاص بـTuring، محققًا زيادة في السرعة بنحو 3% على Tesla V100 مع تطابق النتائج.

خبر موجزبقلم نشرته Oossa: 1 دقائق قراءة

أصدر مشروع llama.cpp تحديثًا صغيرًا لـCUDA في 2026-10-02، يتيح لبطاقات Volta (sm_70) استخدام جدول الضبط نفسه المستخدم لبطاقات Turing. وعلى بطاقة Tesla V100 بسعة 32 GB، حقق التغيير زيادة في معدل المعالجة بنحو 3 % مع نموذج Qwen3.8‑27B. وظلت جودة المخرجات، المقاسة بمقياس الحيرة (perplexity)، كما هي. وأسهم anyei ومشاركون آخرون في إعداد التصحيح.

لماذا يهم

يمكن لمستخدمي llama.cpp على بطاقات V100 تشغيل النماذج بسرعة أعلى قليلًا من دون خسارة في الدقة.

هل كان هذا المقال مفيدًا؟
مشاركة

اقرأ أيضًا

Oossa · النشرة البريدية

أسبوع الذكاء الاصطناعي، مشروحًا

كل يوم اثنين: الأخبار التي تستحق المعرفة، بلغة بسيطة. مجانًا وبلا رسائل مزعجة.