Oossa

llama.cpp يدعم نموذج Prism Bonsai 2 27B

تتيح مكتبة llama.cpp مفتوحة المصدر (الإصدار b11556) تشغيل نموذج Prism Bonsai 2 ذي 27 مليار معلمة على macOS وLinux.

خبر موجزبقلم نشرته Oossa: 1 دقائق قراءة

أصدرت ggml-org الإصدار b11556 من llama.cpp. ويضيف التحديث دعمًا لتشغيل نموذج Prism Bonsai 2 27B، كما يصلح التعامل مع موترات Hadamard وينقّح شيفرة التحويل. وتتوفر ملفات تنفيذية جاهزة لنظامي macOS (Apple Silicon وIntel) وUbuntu (x64 وarm64 وs390x).

لماذا يهم

بات بإمكان المطورين تشغيل نموذج Prism Bonsai 2 الكبير، الذي يضم 27 مليار معلمة، محليًا على أجهزتهم.

هل كان هذا المقال مفيدًا؟
مشاركة

اقرأ أيضًا

Oossa · النشرة البريدية

أسبوع الذكاء الاصطناعي، مشروحًا

كل يوم اثنين: الأخبار التي تستحق المعرفة، بلغة بسيطة. مجانًا وبلا رسائل مزعجة.