يعدّل الإصدار اختيار split-K عبر Vulkan للأحمال الصغيرة على وحدات AMD الرسومية من RDNA 3 وRDNA 4، ويوفر أيضًا نسخًا قابلة للتنزيل لعدة منصات.
خبر موجزبقلم Oossaنشرته Oossa: 1 دقائق قراءة
أصدر فريق ggml-org الإصدار llama.cpp b12050، ويتضمن تعديلًا في Vulkan يهدف إلى تحسين تعامل البرنامج مع الأحمال الصغيرة على بطاقات AMD الرسومية من RDNA 3 وRDNA 4. ولا تتضمن ملاحظات الإصدار نتائج اختبارات أداء أو تقديرًا لمقدار التحسن في السرعة.
تشمل النسخ القابلة للتنزيل حزمًا لأنظمة macOS وiOS وعدة منصات Linux بمعالجات CPU.
قد يتحسن التعامل مع الأحمال الصغيرة لدى من يشغّلون llama.cpp على وحدات RDNA 3 أو RDNA 4 الرسومية، لكن ملاحظات الإصدار لا توضح مقدار التغيير الفعلي في الأداء.
النماذج
أتاحت الشركة أوزان النموذج، الذي يضم 753 مليار معلمة، بموجب ترخيص MIT. وتقول Deep Principle إنه حقق نتائج أفضل في عدة اختبارات علمية، لكنها لم تنشر بيانات التدريب كاملة ولا وصفة التدريب.
النماذج
يتيح المشروع المشترك بين Google وMeta للمطورين تشغيل أحمال PyTorch على رقائق Google مع تعديلات محدودة على الشيفرة، إلى جانب أدوات مثل vLLM وHugging Face.
النماذج
اعتبارًا من ديسمبر، سيستخدم مشتركو Plus وPro وBusiness ميزانية رموز مشتركة لـChatGPT وCodex. ولا تُحتسب محادثات نماذج Instant ضمنها.
Oossa · النشرة البريدية
أسبوع الذكاء الاصطناعي، مشروحًا
كل يوم اثنين: الأخبار التي تستحق المعرفة، بلغة بسيطة. مجانًا وبلا رسائل مزعجة.
