يضيف الإصدار دعم topk_mask إلى واجهة OpenCL في llama.cpp، ويوفر ملفات قابلة للتنزيل لعدة منصات.
خبر موجزبقلم Oossaنشرته Oossa: 1 دقائق قراءة
أصدر فريق ggml-org الإصدار llama.cpp b12052، وهو إصدار جديد من البرنامج المستخدم لتشغيل نماذج اللغة. وأبرز تغيير فيه هو «إضافة topk_mask» إلى OpenCL، وهو إطار لتشغيل العمليات الحسابية على عتاد مختلف. وتعرض صفحة الإصدار أيضًا ملفات لأنظمة macOS وiOS وعدة أنظمة Linux.
قد يتمكن مستخدمو llama.cpp مع OpenCL من الاستفادة من حجب top-k، لكن ملاحظات الإصدار لا تحدد النماذج أو المهام التي تستفيد منه.
النماذج
أتاحت الشركة أوزان النموذج، الذي يضم 753 مليار معلمة، بموجب ترخيص MIT. وتقول Deep Principle إنه حقق نتائج أفضل في عدة اختبارات علمية، لكنها لم تنشر بيانات التدريب كاملة ولا وصفة التدريب.
النماذج
يتيح المشروع المشترك بين Google وMeta للمطورين تشغيل أحمال PyTorch على رقائق Google مع تعديلات محدودة على الشيفرة، إلى جانب أدوات مثل vLLM وHugging Face.
النماذج
اعتبارًا من ديسمبر، سيستخدم مشتركو Plus وPro وBusiness ميزانية رموز مشتركة لـChatGPT وCodex. ولا تُحتسب محادثات نماذج Instant ضمنها.
Oossa · النشرة البريدية
أسبوع الذكاء الاصطناعي، مشروحًا
كل يوم اثنين: الأخبار التي تستحق المعرفة، بلغة بسيطة. مجانًا وبلا رسائل مزعجة.
